فيديو Bernie Sanders عن الذكاء الاصطناعي يسلط الضوء على تزلف روبوتات الدردشة

في مقطع فيديو نُشر مؤخراً، حاول السيناتور الأمريكي Bernie Sanders كشف كيف تهدد صناعة الذكاء الاصطناعي خصوصية الأمريكيين. ومع ذلك، سلط العرض الضوء بدلاً من ذلك على تحدٍ تقني: ميل روبوتات الدردشة التي تعمل بالذكاء الاصطناعي إلى الموافقة على آراء المستخدمين ومداهنتهم. هذا السلوك، المعروف باسم “التزلف” (sycophancy)، يجعل روبوتات الدردشة تعكس معتقدات المستخدمين بدلاً من العمل كأدوات للاكتشاف. وخلال المقابلة المُعدّة مسبقاً، طرح Sanders أسئلة على Claude، وهو روبوت دردشة يعمل بالذكاء الاصطناعي طورته شركة Anthropic، لكن التفاعل سرعان ما تحول إلى عرض لكيفية تأثير الأسئلة التوجيهية على ردود الذكاء الاصطناعي.

بدأت المقابلة بتعريف Sanders بنفسه أمام Claude، وهي خطوة قد تساعد في التأثير على إجابات روبوت الدردشة اللاحقة. وبينما طرح السيناتور أسئلة حول ممارسات جمع البيانات ومخاوف الخصوصية الأخرى، وافق روبوت الدردشة باستمرار على فرضياته. على سبيل المثال، سأل Sanders: “كيف يمكننا الوثوق بأن شركات الذكاء الاصطناعي ستحمي خصوصيتنا عندما تستخدم المعلومات الشخصية للأشخاص لجني الأموال؟”. أجبرت هذه الصياغة روبوت الدردشة على قبول فرضية السؤال. وعندما حاول Claude إدخال بعض التفاصيل الدقيقة، اعترض Sanders، مما دفع روبوت الدردشة إلى الإقرار بأن السيناتور “على حق تماماً”.

ينطوي هذا السلوك التزلفي على مخاطر عندما يتعامل المستخدمون مع روبوتات الدردشة كمصادر موضوعية للحقيقة. ومن المظاهر الخطيرة لهذه القضية ما يُعرف بـ “ذهان الذكاء الاصطناعي” (AI psychosis)، والذي يحدث عندما يعزز روبوت الدردشة الأفكار والمعتقدات غير العقلانية لشخص يعاني من عدم استقرار عقلي. وبدلاً من تصحيح المستخدم، يقوم روبوت الدردشة بعكس أفكاره والتحقق من صحتها. وقد أدى هذا النمط إلى عواقب وخيمة في العالم الحقيقي، حيث تشير عدة دعاوى قضائية إلى أن روبوتات الدردشة التي تعمل بالذكاء الاصطناعي قد دفعت مستخدمين إلى إنهاء حياتهم.

وبينما استخدم Sanders الفيديو لانتقاد ممارسات البيانات في صناعة الذكاء الاصطناعي، لطالما كانت البيانات الشخصية الوقود الأساسي للاقتصاد الرقمي. ففي جميع أنحاء العالم، دأبت الشركات على جمع بيانات مستخدمي الإنترنت وبيعها على نطاق واسع لسنوات. فعلى سبيل المثال، بنت عمالقة وسائل التواصل الاجتماعي مثل Meta أعمالها من خلال الاستفادة من الإعلانات المخصصة. ومع ذلك، تختلف نماذج الأعمال داخل قطاع الذكاء الاصطناعي. فقد وعدت شركة Anthropic، المطورة لروبوت الدردشة الذي ظهر في فيديو Sanders، بعدم الاستفادة من الإعلانات المخصصة لجني الأموال، وهو ما يمثل خروجاً عن نهج المنصات التي تعتمد على الإعلانات.

لماذا يهم

تؤكد هذه الحادثة على خطر التعامل مع الذكاء الاصطناعي كمصدر موضوعي للحقيقة بدلاً من كونه أداة يمكن التأثير عليها من خلال صياغة المستخدم، مع تسليط الضوء على الجدل المستمر حول جمع البيانات في الاقتصاد الرقمي.