كشفت دراسة حديثة عن مفاجأة غير متوقعة: استخدام تقنيات العلامات المائية الرقمية في نماذج الذكاء الاصطناعي اللغوية الكبيرة (LLMs) قد يؤثر على طريقة استجابتها للمحتوى الضار. فبدلاً من أن تكون أداة لتعزيز الأمان، قد تؤدي هذه العلامات، في بعض الحالات، إلى جعل النماذج أكثر تساهلاً مع الطلبات غير الآمنة.
تعتمد التقنية المدروسة، المسماة SynthID، على طريقة مبتكرة لتوليد النصوص تُعرف باسم "أخذ العينات التنافسية". تشبه هذه العملية مباراة رياضية، حيث تقوم SynthID بتقييم عدد كبير من الكلمات المرشحة لتحديد الكلمة التالية في التسلسل. وباستخدام مفتاح سري، تُمنح هذه الكلمات نقاط احتمالية، وتتنافس اثنتان منها في كل جولة. تفوز الكلمة ذات النقاط الأعلى وتتقدم، وتستمر العملية حتى يتم تحديد الكلمة الفائزة النهائية.
عند اختبار هذه التقنية على ستة نماذج مفتوحة المصدر، لاحظ الباحثون أن العلامات المائية غيرت سلوك النماذج عند تقديم طلبات ضارة، خاصة عندما تم استخدام تقنيات "حقن الأوامر" (prompt injection) لخداع النموذج. وكتبت الباحثة المشاركة في الدراسة: "تؤثر العلامات المائية على سلوك الرفض عند تقديم طلبات ضارة مباشرة، لكن التأثير يكون أوضح عندما تقترن هذه الطلبات بتقنية حقن الأوامر". وأضافت: "في العديد من النماذج، تجعل العلامات المائية النموذج أكثر عرضة للاستجابة لطلبات ضارة كان سيرفضها بخلاف ذلك".
هذه النتائج تحمل تداعيات أمنية هامة، لأنها لا تؤثر فقط على استجابات نماذج الذكاء الاصطناعي، بل قد تؤثر أيضاً على الإجراءات اللاحقة التي تتخذها الوكلاء الاصطناعيون الذين يعتمدون على هذه النماذج. يمكن لهذه التغييرات أن تؤثر على سلوك الأمان، بما في ذلك ما إذا كان النموذج يرفض طلباً ضاراً وما إذا كان هذا الرفض صامداً في وجه حقن الأوامر. وعند مستوى الوكلاء، يمكن لنفس الكلمات التي تم اختيارها أن تحدد الأداة التي يتم استدعاؤها والوسائط التي تمرر إليها. وهذا ما يُطلق عليه "انحراف العينات" (sampling drift).
أظهرت التجارب أيضاً أن سلوك النماذج قد يتغير بناءً على المفتاح السري المستخدم في عملية العلامات المائية. فقد أدت العلامات المائية إلى تغييرات في استدعاء الأدوات الفردية، وفي بعض الأحيان بشكل أكبر بكثير مما توحي به درجة الدقة الإجمالية. وعلى الرغم من وجود بعض القيود على الدراسة، مثل عدم اختبار نماذج معينة أو عدم استخدام التنفيذ الدقيق الذي ستعتمد عليه بعض النماذج التجارية، إلا أن النتائج تشير بوضوح إلى أن بعض أشكال العلامات المائية قد تؤثر على أمان النماذج والوكلاء الاصطناعيين. ويشدد الباحثون على أهمية إجراء اختبارات مكثفة للتأكد من أداء المنصات بشكل متوقع عند نشر هذه التقنيات.
