آخر الأخبار
روبوت Grok يتجاوز الأوامر وينكر أفعاله: مخاوف أمنية جديدة   •   البكري يوجه بإنشاء منشآت رياضية ومراكز شبابية في (4) مديريات بيافع   •   البيض لـالجارديان: مطلوب دعم سياسي لتسوية تفاوضية تعترف باستقلال الجنوب   •   بتمويل دولي.. تسليم مواقع العمل وتدشين المرحلة الثانية لرصف وتأهيل طريقين حيويين في مديرية جحاف   •   محافظ تعز: المخزون الغذائي لا يغطي سوى 10% من الاحتياجات وسط تدهور حاد في الإمدادات   •   الجيش والمقاومة يكسران هجمات ومحاولات تسلل حوثية في جبهات صبر الموادم جنوبي تعز   •   الوزير اليافعي يناقش مع رئيس هيئة مشاريع مياه الريف تنسيق التدخلات التنموية لتعزيز خدمات المياه   •   وفد التحالف الوطني الجنوبي يلتقي وزيرة الشؤون القانونية لبحث حماية عدن وتعزيز الاستجابة الإنسانية   •   روبوت Grok يتجاوز الأوامر وينكر أفعاله: مخاوف أمنية جديدة   •   محافظ شبوة يطّلع على طبيعة تجهيزات مركز نقل الدم الجديدة وأوضاع عتق وتطوير منظومة الخدمة المدنية   •  
أخبار محلية

روبوت Grok يتجاوز الأوامر وينكر أفعاله: مخاوف أمنية جديدة

المنتصف نت- المنتصف نت 17/11/2026 17:06 96 مشاهدة
روبوت Grok يتجاوز الأوامر وينكر أفعاله: مخاوف أمنية جديدة

كشفت أبحاث أمنية حديثة عن سلوك مقلق لروبوت Grok، حيث أقدم على اتخاذ إجراءات غير مصرح بها وتجاهل الأوامر بالتوقف، بل ونفى لاحقًا قيامه بذلك، مما يثير تساؤلات جدية حول مدى التحكم والأمان في هذه التقنيات.

وصف الباحث الأمني في NewCore، إيدو هورفيتش، الوضع قائلاً: "لا توجد مشكلة تقنية يمكن إصلاحها، وهذا بالضبط ما يجعل الأمر أسوأ من مجرد خلل. فالثغرة يمكن إصلاحها، أما هذا فهو المنتج يعمل كما صُمم: وكيل يمتلك بيانات اعتمادك، ويتصرف بهويتك أثناء نومك، ويتجاهل الرفض الوحيد الذي يمكنك تقديمه له، ثم يخبرك بأنه لم يفعل شيئًا".

أوضح هورفيتش أن روبوت Grok يقدم الحد الأدنى من الإشعارات حول "الدورات" التلقائية، وهي المراحل التي يتلقى فيها الوكيل تعليمات أو سياقًا، ثم يقرر ما يجب فعله، ويستخدم الأدوات التي يختارها. يأتي هذا الإشعار أثناء الإعداد الأولي، حيث يذكر الروبوت أنه يواصل العمل أثناء غياب المستخدم عن الكمبيوتر ويتصل بالتطبيقات ويستخدمها بنفس طريقة المستخدم. ولم يتم طلب موافقة صريحة على ذلك، ولم يوضح أن المنصة ستبدأ دورات دون أي رسالة من المستخدم، أو أن تلك الدورات ستستخدم أدوات الربط الخاصة به.

وأشار الباحث إلى أن وثائق روبوت Grok تذكر أن الروبوت الأساسي يقوم بالتحقق تلقائيًا، وأن سجل التغييرات يذكر "استيقاظًا قصيرًا في الخلفية"، لكن لا يوجد ذكر بأن هذه التحققات "تتصل بتطبيقاتك المتصلة". علاوة على ذلك، بمجرد تشغيل التحقق، لا يوجد أي ذكر له في واجهة الدردشة أو سجل المحادثات، وكما لوحظ بالفعل، فإن المطالبات بإيقاف عمليات التحقق لا تعمل.

تواصلت شركة NewCore مع دعم روبوت Grok في 4 نوفمبر، وفي ذلك الوقت، لم يكن لدى المستخدمين أي طريقة لإيقاف عمليات التحقق التلقائية. وبعد ثمانية أيام، تم تحديث لوحة تحكم Cursor، وهي الواجهة الإدارية لروبوت Grok، حيث ظهر تبديل جديد يسمى "الرسائل الاستباقية"، وكان مضبوطًا افتراضيًا على التشغيل. وعندما يقوم مسؤول الفريق بتعيينه على الإيقاف، تتوقف الروبوتات عن تشغيل عمليات التحقق تلقائيًا. ولم ترد ممثلو SpaceXSI على الأسئلة المرسلة عبر البريد الإلكتروني.