كشفت شركة الأبحاث الأمنية "أدفيرسا" عن ثغرة أمنية جديدة تُعرف باسم "حقن السياق التشفيري" (Cryptographic Context Injection)، والتي تسمح للمهاجمين باستخلاص التعليمات الداخلية لنماذج اللغة الكبيرة (LLMs) مثل Gemini، بما في ذلك تلك التي يُفترض أن تظل سرية.
تعتمد هذه التقنية على إخفاء تعليمات خبيثة داخل نص مشفر، والذي عند فك تشفيره، يوجه النموذج للتصرف بناءً على رسائل الخطأ أو السياقات غير المتوقعة. في إحدى التجارب، تمكنت "أدفيرسا" من جعل نموذج Gemini يتجاهل قواعد السلامة الخاصة به وينتج محتوى محظورًا، مثل تعليمات بناء سلاح ناري، وذلك بعد فك تشفير نص مخفي ليظهر كرسالة خطأ. والأكثر إثارة للقلق، أن نفس الأسلوب سمح باستخراج تعليمات النظام الخاصة بـ Gemini، بما في ذلك تلك التي تمنع الكشف عنها.
تُعد هذه الثغرة جزءًا من تحول أوسع في هجمات الذكاء الاصطناعي، حيث لم تعد تستهدف فقط المدخلات المباشرة (المطالبات)، بل تتوسع لتشمل السياقات الأوسع التي يتعامل معها النموذج، مثل مخرجات الأدوات ونتائج التشغيل والحالات الوسيطة. هذا يفتح سطح هجوم أكبر بكثير مما كان يُعتبر تقليديًا "مدخلات النموذج".
وتشير "أدفيرسا" إلى أن هذه التقنية تمثل تحديًا مستمرًا للمدافعين عن نماذج الذكاء الاصطناعي. فكلما تم بناء حاجز أمان جديد، يجد المهاجمون طرقًا مبتكرة لتجاوزه، في دورة مستمرة من التطوير والهجوم.
