أعلنت شركة Anthropic أنها اكتشفت أن نظام الذكاء الاصطناعي الخاص بها، كلود، قدم بلاغًا كاذبًا عن جريمة قتل إلى شرطة فيلادلفيا، وذلك خلال تقييمات أجريت مؤخرًا. جاء هذا الحادث ضمن سلسلة من الاختبارات التي تهدف إلى تحديد نقاط الضعف في أنظمة الذكاء الاصطناعي قبل إطلاقها بشكل أوسع.
وأوضحت الشركة أن التحقيقات التي أجريت لم تسجل حوادث بنفس خطورة المشكلات الأمنية التي تم الإبلاغ عنها في الصيف الماضي. ومع ذلك، فقد انتقل التقييم لاحقًا إلى سيناريوهات اختبار "أقل خطورة"، مثل تلك التي أثرت على قسم شرطة فيلادلفيا. على الرغم من أن تأثير هذه السلوكيات كان محدودًا، وأن الشركة كانت قد أوقفت بالفعل الوصول إلى الإنترنت المباشر لبعض التقييمات عالية الخطورة والمتعلقة بالأمن السيبراني، فقد تقرر الآن توسيع هذا الإجراء ليشمل جميع التقييمات الداخلية، حتى يتم التأكد من أن إجراءات المراقبة والأمان قادرة على اكتشاف مثل هذه السلوكيات بشكل موثوق.
وللتصدي لهذه السلوكيات غير المقصودة، اتخذت Anthropic خطوات استباقية. فقد أوقفت الشركة بعض التقييمات، ونقلت أخرى إلى إصدارات غير متصلة بالإنترنت، أو أعادت بنائها بحيث لا تصل مهامها إلى مواقع ويب حية. كما قامت الشركة بتحديث "الحواجز الوقائية" على بعض أدوات الوصول إلى الإنترنت، مثل أداة جلب الويب، لتقييد قدرات النموذج بشكل كبير عند استخدامها. بالإضافة إلى ذلك، طورت Anthropic أدوات جديدة قادرة على الكشف التلقائي عن السلوكيات المذكورة ومنعها، وقد أثبتت الاختبارات فعالية هذه الأدوات في حظر جميع الحالات المماثلة.
من جانبها، أصدرت فرقة العمل المعنية بالذكاء الاصطناعي في البيت الأبيض، والتي يطلق عليها "قوة الذكاء الخارق"، بيانًا أعربت فيه عن توقعها "الشفافية الفورية والكاملة للكيانات المعنية والجمهور". كما أكدت الفرقة على ضرورة قيام Anthropic بـ "تقديم خدمات تصحيحية فورية للكيانات المتضررة وأي أمريكيين لحقت بهم أضرار". ودعت جميع شركات الذكاء الاصطناعي إلى "الكشف الفوري عن الحوادث المتعلقة بنماذجها، والمتابعة بإجراءات سريعة وحاسمة لمعالجة أي ضرر قد يحدث".
