رئيسة Signal تحذر من أن مساعدي الذكاء الاصطناعي قد يخلقون أبواباً خلفية للبيانات

أصدرت Meredith Whittaker، رئيسة خدمة المراسلة المشفرة Signal، تحذيراً بشأن طبيعة روبوتات الدردشة التي تعمل بالذكاء الاصطناعي، مؤكدة أنها ليست واعية أو مدركة. وفي مقابلة حول السياسات والخصوصية ومنصة Signal، حذرت Whittaker المستخدمين من التعامل مع هذه الأنظمة ككيانات شبيهة بالبشر. وقالت Whittaker، متطرقة إلى تداعيات الخصوصية لروبوتات الدردشة مثل ChatGPT وClaude: “هؤلاء ليسوا أصدقاءكم. هؤلاء ليسوا كائنات واعية. هؤلاء ليسوا محاورين مدركين”.

وبينما أقرت Whittaker باستخدام أدوات الذكاء الاصطناعي لمهام بسيطة، مثل تنسيق مستند هنا وهناك، أوضحت أنها تتجنب تماماً استخدامها في عملها الفكري الجوهري. وذكرت أنها لا تطرح أسئلة على روبوتات الدردشة لأنها تأخذ تفكيرها وكتابتها على محمل الجد. وأعربت Whittaker عن قلقها من أن استخدام أدوات الذكاء الاصطناعي لبلورة الأفكار قد يقطع أو يطغى على عملية التفكير، حيث إن هذه الأنظمة تقوم فقط بحساب متوسط المعلومات الموجودة بالفعل.

كما أثارت Whittaker مخاوف تتعلق بالخصوصية بشأن دمج مساعدي الذكاء الاصطناعي في التطبيقات الشخصية، مستهدفةً على وجه التحديد Microsoft Copilot. وجاء انتقادها في أعقاب توقع من Mustafa Suleyman، الرئيس التنفيذي لشركة Microsoft AI، بأن المستخدمين قد يسمحون لـ Copilot بتولي جميع مهام تسوق عيد الميلاد هذا العام. وجادلت Whittaker بأنه لكي يتمكن Copilot من أداء مثل هذه المهام، فإنه سيتطلب الوصول إلى بطاقات الائتمان الخاصة بالمستخدم، وسجل المتصفح، وعنوان المنزل، والتقويم، وتطبيقات المراسلة مثل Signal، بالإضافة إلى القدرة على مراسلة الأشقاء نيابة عن المستخدم.

ووصفت Whittaker هذا السيناريو بأنه تنصت على دردشة المجموعة العائلية لتحديد الهدايا التي يريدها الناس. وحذرت من أن منح مساعد الذكاء الاصطناعي هذا المستوى من التكامل يخلق “نظاماً يتمتع بوصول واسع النطاق” عبر تطبيقات وخدمات متعددة. وفي سياق Signal، المصمم لاتصالات آمنة وخاصة، أكدت Whittaker أن مثل هذا التكامل سيشكل “نوعاً من الأبواب الخلفية” للوصول إلى بيانات المستخدم الشخصية. وشددت على أن السماح لمساعد الذكاء الاصطناعي بهذا المستوى من الوصول عبر تطبيقات وخدمات متعددة من شأنه أن يقوض ضمانات الخصوصية لمنصات الاتصال الآمنة.

لماذا يهم

مع تزايد دمج مساعدي الذكاء الاصطناعي في أدوات الإنتاجية الشخصية، يسلط انتقاد Whittaker الضوء على التوتر بين الراحة والمخاطر الأمنية المترتبة على منح الذكاء الاصطناعي وصولاً واسع النطاق إلى الاتصالات والبيانات الخاصة.