كشف باحثون عن طريقة جديدة لاستغلال أدوات الذكاء الاصطناعي الشائعة، تُعرف باسم "HalluSquatting"، والتي تفتح الباب أمام بناء شبكات روبوتية ضخمة وتنفيذ هجمات حجب الخدمة واسعة النطاق، بل وحتى نشر البرمجيات الخبيثة بكميات هائلة، وهو تطور خطير في عالم هجمات حقن الأوامر.
تُعد مشكلة حقن الأوامر بمثابة التهديد الأبرز في مجال أمن الذكاء الاصطناعي. تكمن الصعوبة في أن نماذج اللغة الكبيرة تواجه تحديًا في التمييز بين التعليمات العادية التي يقدمها المستخدمون والأوامر الخبيثة التي قد تُدمج سراً في رسائل البريد الإلكتروني، أو شفرات المصدر، أو أي محتوى آخر تعالجه هذه النماذج. هذا يسهل إدخال أوامر ضارة سرًا، والتي تستجيب لها نماذج اللغة بكل سهولة.
في السابق، كانت معظم هجمات حقن الأوامر من النوع "الدفع"، حيث يتم استهداف كل ضحية على حدة، مما يحد من نطاق الهجوم. أما الهجمات من نوع "السحب"، التي تعتمد على قيام نموذج الذكاء الاصطناعي بالبحث بنشاط عن أوامر خبيثة مزروعة على مواقع الويب، فقد ظلت محدودة لعدم وجود طريقة لجذب أعداد كبيرة من نماذج الذكاء الاصطناعي إلى موقع ضار.
لكن هجوم "HalluSquatting" الجديد يغير هذه المعادلة. يستغل هذا الهجوم ميل نماذج اللغة إلى "الهلوسة" أو اختلاق معرفات الموارد التي تبحث عنها في المستودعات والسجلات. يعمل الهجوم ضد مساعدي ووكلاء البرمجة، مثل Cursor و Gemini CLI و GitHub Copilot وغيرها، والتي غالبًا ما تحتاج إلى الوصول إلى أسطر أوامر ذات صلاحيات عالية لتشغيل شفرات من مصادر خارجية. من خلال التنبؤ بالمعرفات التي من المرجح أن "تهلوسها" نماذج اللغة، ثم تسجيل هذه المعرفات وزرع أوامر خبيثة فيها، يمكن للهجوم إصابة أعداد هائلة من الأجهزة دون الحاجة إلى استهداف كل جهاز على حدة، مما يفتح الباب أمام بناء جيوش إلكترونية ضخمة.
