أعضاء في مجلس الشيوخ الأمريكي يطالبون شركات التكنولوجيا الكبرى بإجابات حول حماية المستخدمين من التزييف العميق

يمارس مجموعة من أعضاء مجلس الشيوخ الأمريكي ضغوطاً على شركات التكنولوجيا — بما في ذلك X وMeta وAlphabet وSnap وReddit وTikTok — لتقديم أدلة على سياساتها وآليات إنفاذها فيما يتعلق بانتشار التزييف العميق ذي الطابع الجنسي على منصاتها. وفي رسالة وجهها المشرعون إلى قادة هذه الشركات، طالبوا بإثبات وجود حماية قوية وسياسات للحد من انتشار الصور الحميمة غير التوافقية.

وطالب أعضاء مجلس الشيوخ الشركات بالاحتفاظ بجميع الوثائق والمعلومات المتعلقة بإنشاء الصور المولدة بالذكاء الاصطناعي ذات الطابع الجنسي، واكتشافها، والإشراف عليها، وتحقيق أرباح منها. وتطلب الرسالة تحديداً وثائق حول:

• تعريفات السياسات الخاصة بمحتوى التزييف العميق والصور الحميمة غير التوافقية.
• نهج الإنفاذ المتبع مع التزييف العميق غير التوافقي بالذكاء الاصطناعي، بما في ذلك تعديل الملابس والتعري الافتراضي.
• كيفية منع سياسات المحتوى والمرشحات الحالية لإنشاء وتوزيع المحتوى الموحي أو الحميم.
• الآليات المستخدمة لتحديد التزييف العميق، ومنع إعادة التحميل، ووقف المستخدمين والمنصات عن تحقيق أرباح من هذا المحتوى.
• إنفاذ شروط الخدمة وإجراءات إخطار الضحايا.

يأتي هذا التحرك في وقت تواجه فيه المنصات تدقيقاً بشأن سهولة تجاوز المستخدمين لتدابير السلامة. وكتب أعضاء مجلس الشيوخ في رسالتهم: “نحن ندرك أن العديد من الشركات تحافظ على سياسات ضد الصور الحميمة غير التوافقية والاستغلال الجنسي، وأن العديد من أنظمة الذكاء الاصطناعي تدّعي حظر المواد الإباحية الصريحة. ومع ذلك، من الناحية العملية، وكما يظهر في الأمثلة أعلاه، يجد المستخدمون طرقاً للالتفاف على ضوابط الحماية هذه. أو أن هذه الضوابط تفشل في أداء عملها”.

ورداً على ذلك، أشارت X إلى تحديث في Grok، وهو برنامج الدردشة الآلي المملوك لشركة xAI التابعة لـ Elon Musk، والذي يحظر الآن تعديل صور الأشخاص الحقيقيين بملابس كاشفة ويقصر إنشاء الصور على المشتركين المدفوعين. وفي الوقت نفسه، صرح متحدث باسم Reddit بأن المنصة تحظر الوسائط الحميمة غير التوافقية، ولا توفر أدوات لإنشائها، وتعمل بشكل استباقي على إزالتها. وكانت Reddit قد حذفت سابقاً صفحة تعرض مقاطع فيديو إباحية اصطناعية في عام 2018.

لا يزال المشهد التنظيمي مجزأً. ففي الولايات المتحدة، أصبح قانون “Take It Down Act” — وهو قانون فيدرالي يتعلق بالصور الجنسية غير التوافقية — قانوناً نافذاً في شهر مايو، لكن أحكامه تركز في المقام الأول على المستخدمين الأفراد بدلاً من محاسبة المنصات التي تولد الصور. ونتيجة لذلك، بدأ المسؤولون على مستوى الولايات بالتدخل؛ حيث فتح المدعي العام لولاية كاليفورنيا مؤخراً تحقيقاً في برنامج الدردشة الآلي التابع لشركة xAI. ويأتي هذا التحقيق في أعقاب تصريحات من Elon Musk ادعى فيها أنه لم يكن على علم بأي صور عارية لقاصرين تم إنشاؤها بواسطة Grok، على الرغم من تأكيد xAI أنها تزيل المحتوى غير القانوني، بما في ذلك مواد استغلال الأطفال (CSAM) والصور العارية غير التوافقية. وتزداد القضية تعقيداً بسبب مولدات الصور والفيديو الصينية، التي تنتشر مخرجاتها على المنصات الاجتماعية الغربية، ونماذج ذكاء اصطناعي أخرى، مثل ذكاء Google الاصطناعي، الذي أنتج مقاطع فيديو عنصرية حصدت ملايين المشاهدات.

لماذا يهم

يشير الضغط الذي يمارسه المشرعون في الولايات المتحدة إلى تحول من الإشراف الطوعي للمنصات إلى تفويضات تشريعية محتملة، حيث يتجاوز انتشار التزييف العميق ذي الطابع الجنسي ضوابط الحماية الحالية في الصناعة.