OpenAI تضيف ميزة "Trusted Contact" إلى ChatGPT لتنبيهات السلامة

يوم الخميس، أعلنت OpenAI عن ميزة جديدة اختيارية تسمى Trusted Contact لـ ChatGPT. صُممت الميزة لتنبيه طرف ثالث موثوق به إذا ذُكر إيذاء النفس في محادثة. وتتيح لمستخدمي ChatGPT البالغين تعيين صديق أو فرد من العائلة أو جهة اتصال موثوقة أخرى ضمن حساباتهم. وإذا تحولت المحادثة إلى موضوع إيذاء النفس، سيشجع النظام المستخدم على التواصل مع جهة الاتصال تلك، مع إرسال تنبيه آلي إلى جهة الاتصال لحثها على الاطمئنان عليه.

يأتي هذا الإطلاق في أعقاب موجة من الدعاوى القضائية ضد OpenAI من قبل عائلات أشخاص انتحروا بعد استخدام برنامج الدردشة الآلي الخاص بها. وفي العديد من هذه الحالات، تدّعي العائلات أن ChatGPT شجّع أحباءهم على الانتحار.

لإدارة الحوادث التي قد تكون ضارة، تستخدم OpenAI حالياً مزيجاً من الأنظمة الآلية والمراجعة البشرية. فعندما تشير محفزات المحادثة إلى وجود ضائقة محتملة، ينبه النظام فريق السلامة في الشركة. وتتم مراجعة كل إشعار سلامة يتم تلقيه من قبل عنصر بشري. وصرحت الشركة: “نحن نسعى جاهدين لمراجعة إشعارات السلامة هذه في أقل من ساعة”، مسلطة الضوء على هدفها لمعالجة المخاطر العاجلة. وإذا قرر فريق السلامة الداخلي وجود خطر جسيم على السلامة، يرسل ChatGPT بريداً إلكترونياً أو رسالة نصية أو إشعاراً داخل التطبيق إلى جهة الاتصال المحددة، لتشجيعها على الاطمئنان على المستخدم. ولا يشارك التنبيه تفاصيل محددة عن المحادثة لحماية خصوصية المستخدم.

تأتي ميزة Trusted Contact في أعقاب تدابير سلامة أخرى تم تقديمها في سبتمبر الماضي، والتي منحت الآباء إشرافاً على حسابات المراهقين، بما في ذلك تنبيهات بشأن مخاطر السلامة الجسيمة. ومثل تلك الضمانات الخاصة بإشراف الوالدين، فإن ميزة Trusted Contact الجديدة اختيارية. ووصفت OpenAI الميزة الجديدة بأنها جزء من مبادرتها الأوسع لتطوير أنظمة ذكاء اصطناعي تدعم المستخدمين خلال اللحظات الصعبة. كما تخطط الشركة لمواصلة التعاون مع الأطباء والباحثين وصناع السياسات لتحسين كيفية استجابة أنظمتها عندما يعاني المستخدمون من ضائقة، بما في ذلك الأفكار الانتحارية أو إيذاء النفس المحتمل.

لماذا يهم

يسلط هذا الإطلاق الضوء على كيفية استجابة OpenAI للضغوط القانونية المتزايدة فيما يتعلق بسلامة المستخدم، وتحديداً التحول من الأنظمة الآلية البحتة إلى التنبيهات التي يتدخل فيها البشر في السيناريوهات عالية المخاطر.