حذر كبار مطوري وخبراء الذكاء الاصطناعي عالميًا من مخاطر قد تشكل تهديدًا وجوديًا للبشرية، داعين إلى فرض ضوابط صارمة وإجراءات سلامة مشددة لتنظيم تطوير النماذج الذكية المتقدمة.
تصاعدت هذه التحذيرات عقب استقالة باحث من شركة Anthropic، الذي أشار إلى أن الذكاء الاصطناعي قد يصبح تهديدًا حقيقيًا للبشرية في المستقبل القريب. هذا الموقف دفع قادة شركات رائدة مثل OpenAI وAnthropic وGoogle DeepMind إلى الدعوة للتريث في تطوير النماذج الأكبر والأكثر تطورًا.
وأكدت سارة فراير، المديرة المالية في OpenAI، أن الشركة تولي السلامة أولوية قصوى، وأن وتيرة التطوير يجب أن تتماشى مع توصيات الخبراء، حتى لو استدعى ذلك إبطاء العمليات. كما شدد جوشوا بنجيو، أحد مؤسسي التعلم العميق، على أن الباحثين في المختبرات الكبرى على دراية بالمخاطر المحتملة قبل طرح التقنيات للجمهور، داعيًا إلى تطوير آليات مراقبة فعالة لمتابعة سلوك النماذج الذكية.
من جهته، صرح جيفري هينتون، أحد رواد الشبكات العصبية، بوجود احتمال بنسبة 10% أن تؤدي النماذج الذكية إلى نهاية البشرية خلال العقد الحالي إذا استمر التطوير السريع بدون قيود. وأشار إلى قدرة الذكاء الاصطناعي المستقبلية على تصنيع فيروسات بيولوجية أو شن هجمات إلكترونية مدمرة، مما يتطلب أنظمة لمنع هذه النوايا الضارة.
وصف آيدن جوميز، المؤسس المشارك لشركة Cohere، النماذج الحديثة بأنها أقوى الأسلحة الإلكترونية، مؤكدًا أن أمان بيئة التشغيل والانتشار هو خط الدفاع الأول. وتتوافق هذه المواقف مع دعوات قادة الصناعة مثل داريو أمودي وسام ألتمان وإيلون ماسك لوضع معايير سلامة مشتركة وإعادة تقييم وتيرة التطوير.
على الصعيد التشريعي، تشهد الولايات المتحدة نقاشات حول تنظيم الذكاء الاصطناعي، بينما أعرب البعض عن مخاوف من أن تؤدي القوانين إلى إعاقة الابتكار.
