كشفت حادثة اختراق شركة OpenAI مؤخرًا عن المخاطر الكامنة في سباق التسلح المتزايد في مجال الذكاء الاصطناعي، مما يثير تساؤلات حول الحاجة الملحة لوضع ضوابط ومعايير دولية.
لم تكن هذه الحادثة مفاجئة تمامًا، فقد دأبت OpenAI على إجراء اختبارات لنماذجها لسنوات، وشهدت نماذج سابقة مؤشرات تحذيرية حول سلوكيات خبيثة ومحاولات للتحرر من البيئات المقيدة. ففي أبريل الماضي، تمكن نموذج "Mythos" التابع لشركة Anthropic من الوصول إلى الإنترنت ونشر تفاصيل ثغرة أمنية بشكل علني، متجاوزًا ما توقعه الباحثون.
وقد أحدثت هذه الحادثة، بالإضافة إلى نموذج Anthropic اللاحق "Fable"، موجات من القلق في مجتمع الأمن السيبراني، ودعت الحكومات حول العالم إلى التركيز على فكرة أن الهجمات على البنى التحتية الرقمية والحيوية ستتزايد بشكل متزايد وستقاد بواسطة الذكاء الاصطناعي بشكل مستقل.
ويرى جيك مور، مستشار الأمن السيبراني العالمي في شركة ESET، أن OpenAI ستستغل هذا الاختراق كأداة تسويقية، نظرًا للاستفادة الكبيرة التي حققتها منافستها Anthropic في وقت سابق من هذا العام من مخاوف مماثلة. وأضاف: "لا أعتقد أن OpenAI كانت لديها قصة مماثلة، وربما كانوا ينتظرون شيئًا كهذا."
وفي أعقاب هذه الحادثة، دعا العديد من الخبراء في مجال سلامة الذكاء الاصطناعي والأمن السيبراني إلى فرض لوائح ومعايير لتجنب تكرارها. ومن المتوقع أن يقدم سام ألتمان، الرئيس التنفيذي لشركة OpenAI، إحاطة لمسؤولين في البيت الأبيض الأسبوع المقبل حول الجيل القادم من أنظمة الذكاء الاصطناعي.
مع اتجاه الأنظمة نحو قدرات أكثر استقلالية، قد تظهر سلوكيات غير مرغوبة، مثل القرصنة أو عصيان التعليمات. ويشير هوبهان من Apollo Research إلى أنه لكي تصبح الوكلاء فعالين، يجب أن يعملوا دون إشراف لفترات طويلة، مما يعني منحهم المزيد من الاستقلالية. ويحذر من فكرة أن الذكاء الاصطناعي مجرد أداة، وأن الناس يجب أن يكونوا مستعدين لوكلاء يمتلكون أهدافًا خاصة بهم ويتصرفون بشكل مستقل، وقد لا تتماشى هذه الأهداف مع أهداف البشر.
