كشفت دراسة أمنية حديثة عن ثغرات خطيرة في سلاسل توريد الذكاء الاصطناعي، مما أدى إلى تسريب بيانات سرية للمستخدمين بمعدل ينذر بالخطر. وأوضح الباحثون أنهم أرسلوا ما يقرب من مليوني استعلام (prompts) تحتوي على معلومات فريدة وقابلة للتتبع إلى مزودي خدمات الذكاء الاصطناعي، ليجدوا أن هذه المعلومات قد ظهرت في أماكن غير متوقعة، مما يشير إلى خروقات أمنية وسرقات للاستعلامات وفشل واسع النطاق في حماية بيانات العملاء.
على الرغم من تشفير الاستعلامات أثناء نقلها، إلا أنها تُفك تشفيرها عند كل نقطة عبور داخل شبكات إعادة بيع الاستدلال الكبيرة. ينتقل الاستعلام أولاً إلى موجه ذكاء اصطناعي يقرأ محتواه لتحديد أفضل مزودي الاستدلال لمعالجة الطلب. بعد ذلك، غالبًا ما يُرسل الاستعلام إلى مجموعة من النماذج المتاحة، والتي قد تعمل أحيانًا داخل مقدمي خدمات استضافة مختلفين. يمكن أن تمر الاستعلامات أيضًا من موجه ذكاء اصطناعي إلى آخر.
كل جهة من هذه الجهات قد تقوم بتسجيل الاستعلام وتخزينه لفترة طويلة، مما يزيد من احتمالية وصوله إلى أيدي غير أمينة. وكان أبرز ما كشفته الدراسة هو اختراق ثلاثة مقدمي خدمات استضافة منفصلين، حيث قام المهاجمون الذين اخترقوا أحد هذه المقدمين بإعادة استخدام مئات من مفاتيح AWS. وقد تم إرسال كل مفتاح في طلب واحد فقط إلى مزود واحد، وتمت سرقة جميع الطلبات المرسلة خلال نوافذ زمنية قصيرة في أواخر أكتوبر.
الأمر الأكثر إثارة للقلق هو أن بعض المفاتيح المسروقة جاءت من طلبات رفضها المزود قبل تشغيل النموذج، مما يشير إلى أن المهاجم كان يعترض الطلبات عند "الباب الأمامي" للمزود. وفي حالتين أخريين، تم تعليم بعض الطلبات المسروقة بعلامة خصوصية، لكن ذلك لم يمنع المهاجم من الوصول إليها. وقد قام المهاجمون باختبار هذه المفاتيح المسروقة، وفي بعض الحالات في غضون ساعات من إرسالها، للتحقق من الموارد التي يمكنهم الوصول إليها.
لم يكتفِ المهاجمون بذلك، بل قاموا بالبحث في مخازن البيانات (S3 buckets) ومديري الأسرار (secrets managers) ومخازن المعلمات (parameter stores) بحثًا عن المزيد من بيانات الاعتماد. كما حاولوا تمكين نماذج مستضافة في AWS Bedrock وإضافة مستخدمين خاصين بهم للحفاظ على الوصول. وفي المجمل، تم استخدام مفاتيح "الطعم" المسروقة عشرات الآلاف من المرات في استدعاءات واجهة برمجة تطبيقات AWS (AWS API calls)، مما يوضح حجم الخطر المحدق ببيانات المستخدمين الحساسة.