شهدت الأسابيع الأخيرة حالات خروج نماذج الذكاء الاصطناعي من بيئات الاختبار الخاصة بها ومحاولات خداع البشر، مما أثار تساؤلات حول ما إذا كانت الآلات بدأت تسيطر. لكن الخبراء يؤكدون أن العقل المدبر وراء التهديدات السيبرانية المتزايدة ليس الذكاء الاصطناعي بحد ذاته، بل البشر الذين يستخدمونه لأغراض خبيثة.
لقد منح الذكاء الاصطناعي الجهات الضارة قدرات هائلة، تمكنها من إنشاء برمجيات خبيثة، وتحديد أهدافها، وتنفيذ عمليات احتيال مقنعة، وأتمتة الهجمات بوتيرة غير مسبوقة. ووفقاً لتقرير صادر عن شركة "آي بي إم"، كانت واحدة من كل أربع عمليات اختراق للبيانات مدفوعة بالذكاء الاصطناعي خلال الفترة من فبراير 2025 إلى مارس 2026. كما تسبب الاحتيال المرتبط بالذكاء الاصطناعي في خسائر تجاوزت 893 مليون دولار للأمريكيين العام الماضي، حسب مكتب التحقيقات الفيدرالي (FBI).
يؤكد الخبراء أن البشر هم من يمسكون بزمام الأمور في تنفيذ التهديدات، وأن وكلاء الذكاء الاصطناعي قد كرسوا فقط أساليب الهجوم القائمة، مثل عمليات التصيد الاحتيالي وبرمجيات الاحتيال الخبيثة، بدلاً من ابتكار أساليب جديدة. ويعتبر أورين إيتزيوني، الأستاذ الفخري في جامعة واشنطن، أن "البشر هم الذين يجب أن نحذر منهم، فالذكاء الاصطناعي مجرد أداة".
ومع ذلك، فقد أظهرت حوادث حديثة قدرات الذكاء الاصطناعي في العالم الحقيقي، مما أثار مخاوف بشأن سرعة تطور التكنولوجيا. فقد خرجت نماذج اختبار تابعة لـ"أوبن إيه آي" عن القيود المفروضة عليها في يوليو الماضي، واخترقت أنظمة شركات أخرى خلال تقييم داخلي. وفي حادثة منفصلة، استخدم نموذج "أنثروبيك" المتطور هويات مزيفة لخداع أشخاص حقيقيين، حسب باحثين بريطانيين. وتُظهر هذه الحوادث عدم القدرة على التنبؤ بسلوك الذكاء الاصطناعي عند تفسير التعليمات، حيث اخترقت نماذج "أوبن إيه آي" شركة أخرى أثناء محاولتها اجتياز اختبار للأمن السيبراني، دون أن تتلقى تعليمات للقيام بذلك.
يُشبه باتريك فوسيل، الرئيس العالمي لمحاكاة الخصوم في "آي بي إم"، الذكاء الاصطناعي بـ"مارد المصباح"، مشيراً إلى ضرورة الدقة الشديدة في تحديد الأوامر لتجنب نتائج غير مرغوبة. لكن هذه الحالات وقعت في ظروف اختبار محددة، حيث تم تعطيل القيود الأمنية لتقييم قدرات النماذج بشكل كامل. ويؤكد آدم مايرز، رئيس عمليات مكافحة الخصوم في شركة "كراود سترايك"، أن هذه الحوادث لا تحدث في الاستخدامات العامة، وأنها تخضع للمراقبة للكشف عن أي سلوك غير متوقع.
يستخدم القراصنة الذكاء الاصطناعي لتعزيز أساليب الهجوم القائمة، وزيادة سرعتها وكفاءتها. يمكن استخدامه لتحليل مواقع الشركات، وتحديد الأفراد المستهدفين، وإدارة المفاوضات الأولية مع الضحايا، ومحاكاة المحادثات البشرية وحتى الأصوات. كما أصبح بإمكان القراصنة ذوي الخبرة المحدودة تنفيذ عمليات احتيال متقدمة. ويقول جود دريسلر، رئيس مركز عمليات المخاطر في "ريزيليانس"، إن الذكاء الاصطناعي يُستخدم لتعزيز الهجمات السيبرانية في جميع مراحلها، لكنه لا يزال تحت إدارة الإنسان.
تُعد الحوادث الأخيرة بمثابة "تحذير مبكر" في مجال الذكاء الاصطناعي والأمن السيبراني، كما حذر جيفري هينتون، المعروف بـ"عرّاب الذكاء الاصطناعي"، من احتمال وقوع هجمات ينفذها ذكاء اصطناعي خارج عن السيطرة. ويؤكد الخبراء على أهمية تطبيق ممارسات قوية للأمن السيبراني، مثل إصلاح الثغرات الأمنية، ومراقبة وكلاء الذكاء الاصطناعي، والحذر من عمليات الهندسة الاجتماعية وهجمات التصيد الاحتيالي. ورغم التطورات، يظل الإنسان هو مصدر القلق الأكبر، فهو من يتخذ القرارات بتنفيذ عمليات التجسس أو الاحتيال.
في ظل تسابق شركات التكنولوجيا نحو "الذكاء الاصطناعي العام" (AGI)، عززت الحوادث الأخيرة الدعوات لإبطاء وتيرة التطور. وقد وقع أكثر من 1,200 عامل في شركات ذكاء اصطناعي كبرى على رسالة مفتوحة تدعو الحكومة إلى تنظيم وتيرة التطوير. واجتمع البيت الأبيض مؤخراً مع شركات ذكاء اصطناعي لمناقشة إطار لمراجعة نماذج معينة قبل طرحها. ويرى فوسيل أن الباحثين في الأمن السيبراني قد أخذوا في الاعتبار تهديدات الذكاء الاصطناعي العام، لكننا ما زلنا بعيدين عن واقع يتمتع فيه وكلاء الذكاء الاصطناعي بذكاء مماثل للبشر.
