طالب مدعي عام سان فرانسيسكو، ديفيد تشيو، شركتي آبل وجوجل بإزالة 13 تطبيقًا يستخدم الذكاء الاصطناعي لتعديل الصور، والذي يُعرف بقدرته على تحويل الصور العادية إلى محتوى إباحي. تأتي هذه الخطوة بعد أن أرسل تشيو خطابات رسمية للشركتين، محذرًا من أن متاجر التطبيقات الخاصة بهما تنتهك القوانين التي تحظر دعم الخدمات التي تنشئ مواد إباحية مزيفة (deepfake pornography).
تتيح هذه التطبيقات، التي تسمى "تطبيقات التعرية" (nudification apps)، إمكانية إزالة الملابس من الصور، وتغيير ملامح الأشخاص، ووضعهم في مواقف مخلة، وحتى استبدال وجوه الضحايا بوجوه أخرى على أجساد عارية. وقد عبر تشيو عن "صدمته المطلقة" من الانتشار الواسع لهذه التقنية، مشيرًا إلى أن ضحاياها هم في الغالب من النساء والأطفال، وأن هذه الصور تُستخدم للتنمر والإذلال والتهديد، مما يؤثر بشكل كارثي على سمعة الضحايا وصحتهم النفسية وشعورهم بالاستقلالية، حتى أن بعضهم وصل إلى التفكير بالانتحار.
وقد طلبت سان فرانسيسكو من جوجل إزالة خمسة تطبيقات ومن آبل إزالة ثمانية تطبيقات. وعلى الرغم من عدم تسمية التطبيقات في التقارير لتجنب الترويج لها، فقد أشارت بعض التقارير إلى أن أحد هذه التطبيقات قد تجاوز مليون عملية تنزيل، وكان يروج لميزات لتصوير النساء بشكل جنسي أو لإنشاء مقاطع فيديو "مجانية وغير خاضعة للرقابة".
أكد تشيو أن السماح ببقاء أي من هذه التطبيقات في متاجر التطبيقات أمر غير مقبول على الإطلاق، مشيرًا إلى أن إنشاء صور حميمية دون موافقة يعد عملًا غير قانوني ومؤذيًا. وقدر مكتبه أن آبل وجوجل ربما قد "جنت ملايين الدولارات كرسوم" من خلال تجاهل هذه التطبيقات الضارة، بدلاً من اتخاذ إجراءات أقوى أو تطوير آليات اكتشاف أفضل.
من جانبها، صرحت جوجل بأن التطبيقات الخمسة التي أشار إليها تشيو قد تم تعليقها بالفعل من متجر Google Play لمخالفتها سياسات المحتوى الضار. وأضاف متحدث باسم جوجل أن المتجر لا يسمح بالتطبيقات التي تحتوي على محتوى جنسي، وأن الشركة تتخذ خطوات استباقية للكشف عن هذه التطبيقات وإزالتها، بما في ذلك تعليق مئات التطبيقات المخالفة وتقييد مصطلحات البحث ذات الصلة مثل "nudify".
