Anthropic تمنح METR صلاحيات على مستوى الموظفين لفحص نماذجها

تمنح Anthropic صلاحيات على مستوى الموظفين لستة باحثين من METR، منظمة غير ربحية تختبر نماذج الذكاء الاصطناعي المتقدمة، لتقييم نماذج Anthropic وممارساتها الأمنية وإدارتها للمخاطر بشكل مستقل، على ما ذكرت الشركة في منشور على مدونتها يوم الخميس. ويأتي هذا الترتيب في وقت يتم فيه الكشف عن حوادث تتعلق بوكلاء ذكاء اصطناعي يتصرفون خارج تعليماتهم كل أسبوع أو أسبوعين منذ أواخر أغسطس، وهي حوادث زادت من الدعوات إلى إجراء فحوصات مستقلة على شركات الذكاء الاصطناعي. وقالت Anthropic في منشورها: “نريد أن نكون مسؤولين علناً عن القرارات التي نتخذها. نهدف إلى تضييق الفجوة بين ما يفهمه المقيّمون عن أنظمة شركة ذكاء اصطناعي متقدمة وما تفهمه الشركة نفسها عن تلك الأنظمة”.

وبموجب هذا الترتيب، يمتلك فريق METR أجهزة كمبيوتر محمولة صادرة عن Anthropic، ومساحة مكتبية، وصلاحيات وصول إلى الأدوات الداخلية تقارب ما تستخدمه فرق تقييم المخاطر الخاصة بـAnthropic نفسها. وقالت الشركة: “يُشجَّع موظفو Anthropic على تبادل المعلومات معهم تماماً كما يفعلون مع زميل يعمل على مخاطر التوافق”. وشبّهت Anthropic هذا الترتيب بالتنظيم المصرفي، مقارنةً إياه بطريقة وضع الجهات التنظيمية مفتشين مقيمين داخل أكبر البنوك.

وستنشر METR تقييماتها الخاصة لمخاطر Anthropic وحوادثها وممارساتها، وقد تنازلت Anthropic عن حقها في منع هذا النشر. وقالت الشركة: “لا يمكن لـAnthropic أن تعترض على النشر، لكن يمكنها أن تطلب حجب معلومات إذا كانت تقع في فئات محددة مسبقاً وضيقة”، مستشهدة بأمثلة مثل بيانات العملاء، أو المواد المحمية بسرية المحامي والعميل، أو المعلومات المتعلقة ببنية نماذجها. وأضافت Anthropic: “يحق لـMETR أن تصف علناً عمليات الحجب التي نقوم بها، وأن تقول ما إذا كانت تعتقد أن هذا الحجب كان مبرراً، شرط أن تفعل ذلك دون الكشف عن المعلومات المحجوبة”.

وتُعد METR حتى الآن المقيّم الوحيد في أعلى نظام من ثلاث مستويات تعمل Anthropic على بنائه. فالمستوى الأدنى، الذي يضم منظمة السلامة الحيوية غير الربحية SecureBio، يجري مراجعات ضيقة تتطلب موافقة Anthropic قبل النشر؛ أما المستوى المتوسط فيحصل على معلومات أكثر ويمكنه النشر دون موافقة؛ ويضيف المستوى الأعلى صلاحيات METR على مستوى الموظفين. ويأتي إعلان الخميس تحقيقاً لوعد قطعه الرئيس التنفيذي لـAnthropic، Dario Amodei، في مقال نشره في سبتمبر اقترح فيه إدماج مقيّمين خارجيين داخل مختبرات الذكاء الاصطناعي كخطوة أولى لإبطاء تطور هذه التقنية. وتعهدت OpenAI بالأمر نفسه بسرعة، ووقّعت Anthropic وOpenAI وGoogle وMeta وNvidia وxAI منذ ذلك الحين على اتفاق مع البيت الأبيض يلزمها بمراجعة مستقلة.

لماذا يهم

منح منظمة خارجية غير ربحية صلاحيات دائمة للوصول إلى الأدوات الداخلية والحق في النشر دون حق النقض يُعد تنازلاً عميقاً بشكل لافت من مختبر ذكاء اصطناعي متقدم، وهو يضع معياراً سيُقاس عليه الموقّعون الآخرون على اتفاق البيت الأبيض وهم يبنون مستويات المقيّمين الخاصة بهم.