كشفت تقارير حديثة عن السماح لمنصات ميتا، بما في ذلك فيسبوك وإنستغرام، بعرض إعلانات لأداة تستخدم الذكاء الاصطناعي لتوليد محتوى إباحي مزيف، والتي يبدو أنها شجعت المستخدمين على إنشاء مقاطع فيديو مزيفة تشبه سياسيات أمريكيات بارزات. يأتي هذا على الرغم من سياسات الشركة الصارمة ضد الإعلانات التي تحتوي على مواد جنسية، مما يثير تساؤلات حول فعالية آليات المراقبة لديها.
الأداة، المسماة "Kromix"، تقدم نفسها كـ "مُصمم صور بالذكاء الاصطناعي". وفي أحد الإعلانات، تم الترويج لها بوصفها تمتلك "قيودًا لا نهائية"، مع التأكيد على أن "جميع الشخصيات هم أشخاص حقيقيون"، ووصفها بأنها "الذكاء الاصطناعي الذي يستخدمه الرجال بالفعل". وقد أظهر أحد الإعلانات امرأة تشبه إلى حد كبير سياسية أمريكية معروفة، تظهر وهي تغمز قبل أن يتحول المشهد إلى مقطع فيديو إباحي لها.
تطبيق Kromix، الذي كان متوفرًا على متجر تطبيقات آبل قبل التواصل معهم للتعليق، يتيح للمستخدمين المدفوعين تحميل صور لاستخدامها في سيناريوهات مثل "اغتصاب في غرفة النوم" و"حب ديزني". كما تضمنت مقاطع الفيديو على التطبيق محتوى إباحيًا تم إنشاؤه بواسطة الذكاء الاصطناعي لنساء يرتدين أزياء شخصيات خيالية.
يُذكر أن الإعلانات استهدفت حصريًا المستخدمين الذكور تحت شعار "أطلق العنان لسحر الذكاء الاصطناعي من الجيل التالي". وقد تم سحب هذه الإعلانات بعد استفسار من جهة إعلامية. يرى مراقبون أن هذا النوع من الإعلانات، خاصة عندما يستهدف النساء والسياسيات، يثير قلقًا بالغًا بشأن كيفية تعامل المنصات مع المحتوى الضار، خاصة في ظل تزايد استهداف السياسيات بصور ومقاطع فيديو مزيفة.
تؤكد ميتا أنها تعمل بجد لمكافحة الاستغلال الجنسي، بما في ذلك الترويج لتطبيقات "nudify"، وتشدد على استثماراتها المستمرة في تقنيات الذكاء الاصطناعي لكشف وحظر الإعلانات المخالفة. وفي هذا السياق، قامت آبل بإزالة تطبيق Kromix من متجرها، مشيرة إلى أن التطبيق يبدو أنه أضاف محتوى وميزات محظورة بعد المراجعة الأولية.
