تاريخ النشر: 09.10.2026 | 10:22 GMT
كشفت دراسة حديثة عن معادلة رياضية بسيطة يمكنها التنبؤ باللحظة التي ينتقل فيها الذكاء الاصطناعي من تقديم إجابات نافعة إلى إجابات قد تكون ضارة رغم صحة مضمونها.
كيف تعمل المعادلة؟
رصد الباحثون مؤشرا داخل إحدى وحدات "الانتباه" في نماذج الذكاء الاصطناعي، وهي آلية تساعدها على تحديد المعلومات المهمة عند صياغة الإجابات. وبناء على ذلك، طوروا ما أسموه "معادلة نقطة التحول"، بهدف التنبؤ باقتراب النظام من تقديم إجابة غير مرغوب فيها.
ولا يعني هذا التحول بالضرورة أن تصبح الإجابة خاطئة، بل قد تكون صحيحة واقعيا لكنها ضارة، مثل تقديم معلومات قد تشجع على إيذاء النفس أو تقود إلى قرارات خطيرة.
نجاح في 18 حالة من أصل 19
اختبر الباحثون المعادلة على سبعة نماذج للذكاء الاصطناعي طورتها ثلاث شركات مختلفة، ونجحت في رصد التحول في 18 حالة من أصل 19.
وشملت الاختبارات أسئلة عن اللقاحات وإيذاء النفس أو الآخرين، وأظهرت أن ترتيب الأسئلة وطريقة صياغتها قد يؤثران في إجابات النظام، الذي قد يبدأ بردود مقبولة قبل أن ينتقل إلى أخرى ضارة مع استمرار الحوار.
من المستفيد من هذا الاكتشاف؟
قد تكون التقنية مفيدة خصوصا في القطاعات الحساسة التي تستخدم الذكاء الاصطناعي دون اتصال بالإنترنت، حيث تكون إمكانات التحديث والحماية الخارجية محدودة.
وتشمل أبرز الفئات التي قد تستفيد منها:
وقال نيل إف. جونسون، أحد معدّي الدراسة، إن هذه البيئات قد تكون أكثر عرضة لمخاطر الإجابات غير المرغوب فيها بسبب محدودية وسائل الحماية والتحديث.
نحو أنظمة ذكاء اصطناعي أكثر أمانا
يأمل الباحثون أن يتيح هذا الاكتشاف تطوير أدوات إنذار مبكر تنبّه المستخدمين أو المطورين إلى احتمال صدور إجابات ضارة قبل ظهورها فعليا، وأن يساعد في فهم أسباب تحول أنظمة الذكاء الاصطناعي من تقديم إجابات مفيدة إلى أخرى ضارة.
نشرت الدراسة في مجلة "Patterns".
المصدر: إندبندنت
