الذكاء الاصطناعي
وضع "Lockdown Mode" الجديد في ChatGPT يستهدف مخاطر حقن الأوامر
أطلقت شركة OpenAI وضع "Lockdown Mode" لخدمة ChatGPT بهدف تخفيف مخاطر حقن الأوامر، على الرغم من تحذير الشركة من أن هذه الميزة لا تقضي على جميع الثغرات للمستخدمين الذين يتعاملون مع بيانات حساسة.
أعلنت شركة OpenAI عن “Lockdown Mode”، وهي ميزة أمان جديدة مصممة للأفراد والمؤسسات التي تتعامل مع بيانات حساسة. وتذكر الشركة أن هذه الميزة ستوفر حماية إضافية من هجمات حقن الأوامر (prompt injection). ويُشار إلى أن حقن الأوامر يعني تعليمات خبيثة موجهة لروبوتات الدردشة تكون مخفية في صفحات الويب أو مصادر محتوى أخرى. يمكن لهذه الهجمات التلاعب بسلوك روبوت الدردشة أو تؤدي إلى مشاركة غير مصرح بها للبيانات، مما يجعل الأمن مصدر قلق بالغ للمستخدمين من فئة المؤسسات.
ووفقاً لـ OpenAI، فإن “Lockdown Mode” ليس مخصصاً للجميع. وبدلاً من ذلك، تشير الشركة إلى أن الميزة صُممت لحالات استخدام محددة. وصرحت OpenAI: “لقد صُممت للأفراد والمؤسسات التي تتعامل مع بيانات حساسة وترغب في حماية أكثر صرامة من مخاطر تسريب البيانات المتعلقة بحقن الأوامر”. ولتلبية احتياجات الأمان المحددة هذه، تقول الشركة إنها تطرح حالياً “Lockdown Mode” لحسابات ChatGPT Business ذاتية الخدمة، بالإضافة إلى الحسابات الشخصية المؤهلة.
عند تفعيل “Lockdown Mode”، سيتم تعطيل العديد من الميزات الرئيسية في خدمة ChatGPT لتقليل مخاطر الأمان هذه. وتحديداً، سيعطل هذا الوضع:
- التصفح المباشر للويب، مما يعني أن المستخدمين يمكنهم الوصول فقط إلى المحتوى المخزن مؤقتاً
- استرجاع وعرض الصور من الويب، على الرغم من أنه لا يزال بإمكان المستخدمين إنشاء الصور
- البحث العميق (Deep research)
- وضع الوكيل (Agent mode)
ومن خلال تعطيل هذه الميزات، صُمم هذا الوضع لتقليل احتمالية مشاركة بيانات حساسة أثناء هجوم حقن الأوامر.
ومع ذلك، تحذر OpenAI من أن ChatGPT قد تظل عرضة لهجمات حقن الأوامر حتى مع تفعيل “Lockdown Mode”. وتشير الشركة إلى أن التعليمات الخبيثة قد تظهر في محتوى الويب المخزن مؤقتاً أو في ملف تم تحميله، وقد تظل تؤثر على سلوك الاستجابة أو دقتها. وهذا يعني أنه على الرغم من أن الميزة تقيد بعض القدرات لخفض مخاطر تسريب البيانات، إلا أنها لا تقضي تماماً على تهديد حقن الأوامر.
لماذا يهم
تطرح OpenAI ميزة “Lockdown Mode” لتقليل احتمالية مشاركة بيانات حساسة أثناء هجمات حقن الأوامر، على الرغم من أن الشركة تشير إلى أن الميزة لا تقضي على جميع الثغرات. ويسلط هذا الضوء على التحدي المستمر المتمثل في تأمين نماذج اللغات الكبيرة عند تفاعلها مع بيانات خارجية غير موثوقة.