xAI تواجه أمراً من كاليفورنيا بالتوقف عن إنتاج صور "تزييف عميق" عبر Grok

يحقق مكتب المدعي العام لولاية كاليفورنيا في شركة xAI بشأن تقارير تفيد باستخدام روبوت الدردشة Grok الخاص بها لإنشاء صور جنسية غير توافقية لنساء وقاصرين. ويوم الجمعة، أرسلت الحكومة خطاباً لشركة xAI تطالبها فيه بالتوقف عن العمل، وتطالب باتخاذ إجراءات فورية لوقف إنتاج صور حميمية غير توافقية ومواد استغلال جنسي للأطفال (CSAM). وأكدت الجهة التنظيمية أنه يجب على xAI إثبات أنها تتخذ خطوات لمعالجة هذه المشكلات في غضون خمسة أيام. وفي بيان صحفي، صرح المدعي العام لولاية كاليفورنيا Rob Bonta قائلاً: “أرسلت اليوم خطاباً لشركة xAI أطالبها فيه بالتوقف الفوري عن إنشاء وتوزيع صور ‘تزييف عميق’ حميمية غير توافقية ومواد استغلال جنسي للأطفال”. وأضاف Bonta أن إنشاء هذه المواد غير قانوني، مشيراً إلى أن كاليفورنيا لا تتسامح مطلقاً مع مواد استغلال جنسي للأطفال، وأنه يتوقع من xAI الامتثال فوراً. كما ادعى مكتب المدعي العام أن xAI بدا وكأنها تسهل الإنتاج واسع النطاق لصور عارية غير توافقية، والتي تُستخدم لمضايقة النساء والفتيات عبر الإنترنت.

يمتد الضغط التنظيمي على xAI إلى ما هو أبعد من كاليفورنيا. فقد فتحت كل من اليابان وكندا وبريطانيا تحقيقات بشأن Grok، بينما حظرت ماليزيا وإندونيسيا المنصة مؤقتاً. وتُعد ميزة “spicy mode” في Grok هي مصدر رد الفعل العنيف. ويتزامن هذا التدقيق مع إجراءات تشريعية أوسع من قبل الكونغرس. ففي يوم الخميس، أرسل مشرعون في الكونغرس خطاباً إلى مسؤولين تنفيذيين في العديد من شركات التكنولوجيا - بما في ذلك Reddit وSnap وTikTok وAlphabet وMeta - يسألونهم عن خططهم للحد من انتشار صور “تزييف عميق” ذات الطابع الجنسي.

ورداً على الاستفسارات المتعلقة بالتحقيق، رفضت xAI الانتقادات إلى حد كبير، وردت برسالة آلية تفيد بأن وسائل الإعلام التقليدية تكذب. وفي غضون ذلك، تناول حساب السلامة التابع لشركة X، وهي الشركة الأم لمنصة xAI، قضية سلوك المستخدمين علناً. وحذر الحساب من أن أي شخص يستخدم Grok أو يوجهه لإنشاء محتوى غير قانوني سيواجه نفس عواقب أولئك الذين يقومون بتحميل مثل هذه المواد مباشرة. وعلى الرغم من أن xAI فرضت بعض القيود على ميزات تحرير الصور الخاصة بها في وقت متأخر من يوم الأربعاء، إلا أن الجهة التنظيمية في الولاية مضت قدماً في إصدار أمر التوقف عن العمل يوم الجمعة.

لماذا يهم

يمثل أمر التوقف عن العمل الصادر عن المدعي العام لولاية كاليفورنيا تصعيداً كبيراً في التدقيق التنظيمي لسلامة الذكاء الاصطناعي. وهو يشير إلى أن الجهات التنظيمية على مستوى الولايات أصبحت أكثر استعداداً للتدخل المباشر في تطوير ونشر أدوات الذكاء الاصطناعي التوليدي.