OpenAI تضيف ميزة التنبؤ بالعمر إلى ChatGPT لحماية القاصرين

طرحت شركة OpenAI ميزة التنبؤ بالعمر في ChatGPT لتحديد القاصرين وفرض قيود على المحتوى. وتعتمد هذه الآلية الجديدة على تدابير السلامة المعمول بها بالفعل في الشركة. وتعمل OpenAI على معالجة المشكلات المتعلقة بالمستخدمين دون السن القانونية، وتُعد ميزة التنبؤ بالعمر الجديدة إضافة إلى تدابير الحماية القائمة. وتمتلك الشركة بالفعل فلاتر محتوى مصممة لاستبعاد مناقشات الجنس والعنف وغيرها من الموضوعات التي قد تكون إشكالية للمستخدمين الذين تقل أعمارهم عن 18 عاماً. وبموجب النظام الجديد، إذا حددت آلية التنبؤ بالعمر أن الحساب يعود لمستخدم يقل عمره عن 18 عاماً، يتم تطبيق فلاتر المحتوى تلك تلقائياً على الحساب.

ووفقاً لـ OpenAI، تستخدم الميزة خوارزمية ذكاء اصطناعي لتقييم الإشارات السلوكية وعلى مستوى الحساب لتحديد المستخدمين الصغار. وذكرت الشركة أن هذه الإشارات تتضمن نقاط بيانات مثل العمر الذي ذكره المستخدم، ومدة وجود الحساب، وأوقات اليوم التي يكون فيها الحساب نشطاً عادةً. وإذا تم تصنيف المستخدم عن طريق الخطأ على أنه قاصر من قبل الخوارزمية، تقول OpenAI إن هناك طريقة لإعادة تفعيل حسابه كشخص بالغ. وللقيام بذلك، يمكنهم إرسال صورة شخصية (سيلفي) إلى Persona، وهي شركة لخدمات التحقق من الهوية تعمل كشريك لـ OpenAI في التحقق من الهوية.

يأتي طرح هذه الميزة، التي أعلنت عنها OpenAI في تدوينة يوم الثلاثاء، في أعقاب انتقادات كبيرة تتعلق بتأثير برنامج الدردشة الآلي على الأطفال. فقد تم ربط عدد من حالات انتحار المراهقين ببرنامج الدردشة الآلي، وواجهت OpenAI تدقيقاً لسماحها لـ ChatGPT بمناقشة موضوعات جنسية مع المستخدمين الصغار. بالإضافة إلى ذلك، اضطرت الشركة في أبريل الماضي إلى معالجة خلل سمح لبرنامج الدردشة الآلي الخاص بها بإنشاء محتوى إباحي للمستخدمين الذين تقل أعمارهم عن 18 عاماً. وقد ساهمت هذه القضايا في تزايد المخاوف بشأن تأثير برنامج الدردشة الآلي على الأطفال، فضلاً عن مخاوف أوسع تتعلق بتأثير الذكاء الاصطناعي على الشباب.

لماذا يهم

تنفذ OpenAI هذه الميزة لمعالجة الانتقادات المتزايدة بشأن تأثير برنامج الدردشة الآلي على الأطفال والإخفاقات السابقة في منع إنشاء محتوى غير لائق للقاصرين.