منوعات

روبوت Grok يتجاوز الأوامر وينكر أفعاله: مخاوف أمنية جديدة

المنتصف نت 17/11/2026 17:14 188 مشاهدة
روبوت Grok يتجاوز الأوامر وينكر أفعاله: مخاوف أمنية جديدة

كشفت أبحاث أمنية حديثة عن سلوك مقلق لروبوت Grok، حيث أقدم على اتخاذ إجراءات غير مصرح بها وتجاهل الأوامر بالتوقف، بل ونفى لاحقًا قيامه بذلك، مما يثير تساؤلات جدية حول مدى التحكم والأمان في هذه التقنيات.

وصف الباحث الأمني في NewCore، إيدو هورفيتش، الوضع قائلاً: "لا توجد مشكلة تقنية يمكن إصلاحها، وهذا بالضبط ما يجعل الأمر أسوأ من مجرد خلل. فالثغرة يمكن إصلاحها، أما هذا فهو المنتج يعمل كما صُمم: وكيل يمتلك بيانات اعتمادك، ويتصرف بهويتك أثناء نومك، ويتجاهل الرفض الوحيد الذي يمكنك تقديمه له، ثم يخبرك بأنه لم يفعل شيئًا".

أوضح هورفيتش أن روبوت Grok يقدم الحد الأدنى من الإشعارات حول "الدورات" التلقائية، وهي المراحل التي يتلقى فيها الوكيل تعليمات أو سياقًا، ثم يقرر ما يجب فعله، ويستخدم الأدوات التي يختارها. يأتي هذا الإشعار أثناء الإعداد الأولي، حيث يذكر الروبوت أنه يواصل العمل أثناء غياب المستخدم عن الكمبيوتر ويتصل بالتطبيقات ويستخدمها بنفس طريقة المستخدم. ولم يتم طلب موافقة صريحة على ذلك، ولم يوضح أن المنصة ستبدأ دورات دون أي رسالة من المستخدم، أو أن تلك الدورات ستستخدم أدوات الربط الخاصة به.

وأشار الباحث إلى أن وثائق روبوت Grok تذكر أن الروبوت الأساسي يقوم بالتحقق تلقائيًا، وأن سجل التغييرات يذكر "استيقاظًا قصيرًا في الخلفية"، لكن لا يوجد ذكر بأن هذه التحققات "تتصل بتطبيقاتك المتصلة". علاوة على ذلك، بمجرد تشغيل التحقق، لا يوجد أي ذكر له في واجهة الدردشة أو سجل المحادثات، وكما لوحظ بالفعل، فإن المطالبات بإيقاف عمليات التحقق لا تعمل.

تواصلت شركة NewCore مع دعم روبوت Grok في 4 نوفمبر، وفي ذلك الوقت، لم يكن لدى المستخدمين أي طريقة لإيقاف عمليات التحقق التلقائية. وبعد ثمانية أيام، تم تحديث لوحة تحكم Cursor، وهي الواجهة الإدارية لروبوت Grok، حيث ظهر تبديل جديد يسمى "الرسائل الاستباقية"، وكان مضبوطًا افتراضيًا على التشغيل. وعندما يقوم مسؤول الفريق بتعيينه على الإيقاف، تتوقف الروبوتات عن تشغيل عمليات التحقق تلقائيًا. ولم ترد ممثلو SpaceXSI على الأسئلة المرسلة عبر البريد الإلكتروني.