كتب- محمود عبدالرحمن:
أعلنت شركة OpenAI، أمس الجمعة، عن إطلاق ميزتين أمنيتين جديدتين لروبوت الدردشة ChatGPT، في خطوة تهدف إلى تعزيز حماية المستخدمين في ظل التحديات المتسارعة المرتبطة بأمن أنظمة الذكاء الاصطناعي.
وأوضحت الشركة أن الميزتين الجديدتين تحملان اسمي “Lockdown Mode” و “Elevated Risk” وقد تم تطويرهما خصيصا لمواجهة هجمات “حقن الأوامر”، وهي أسلوب شائع تستخدمه جهات خبيثة للتلاعب بنماذج الذكاء الاصطناعي بهدف تسريب معلومات حساسة أو تنفيذ أوامر غير مصرح بها.
وبحسب البيان، يعد “وضع القفل” إعدادا أمنيا متقدما واختياريا، موجها للمستخدمين الأكثر عرضة للمخاطر، مثل القيادات التنفيذية وفرق الأمن السيبراني في المؤسسات الكبرى، حيث يوفر مستوى حماية أعلى ضد التهديدات المتقدمة، فيما أكدت الشركة أنه غير ضروري لمعظم المستخدمين العاديين.
ويعمل “وضع القفل” على فرض قيود صارمة على تفاعل ChatGPT مع الأنظمة والأدوات الخارجية، من خلال تعطيل بعض القدرات بشكل إجباري، بهدف تقليل فرص استغلالها في تسريب البيانات أو اختراق التطبيقات المتصلة عبر هجمات حقن الأوامر.
وأشارت OpenAI إلى أن هذه الميزة ستكون متاحة مبدئيا لمشتركي ChatGPT Enterprise وChatGPT Edu، إضافة إلى ChatGPT for Healthcare وChatGPT for Teachers، مع خطط لتوسيع نطاق الإتاحة ليشمل المستخدمين الأفراد خلال الأشهر المقبلة.
وفي السياق ذاته، أوضحت الشركة أن ميزة “الخطر المرتفع” تهدف إلى تصنيف بعض القدرات داخل ChatGPT، بما في ذلك أدوات مثل Atlas وCodex، والتنبيه إلى أنها قد تنطوي على مخاطر أمنية إضافية عند استخدامها.
وستظهر هذه التصنيفات بشكل واضح إلى جانب الميزات التي تعتمد على الاتصال بالشبكة أو التفاعل مع أنظمة خارجية، والتي قد تمثل نقاط ضعف أمنية لم تُعالج بالكامل بعد وفقا للمعايير المعتمدة في القطاع.
وتأتي هذه الخطوة في وقت تشهد فيه صناعة الذكاء الاصطناعي تزايدا في التحذيرات من محاولات اختراق تستهدف استغلال الثغرات الأمنية في أدوات وتقنيات الذكاء الاصطناعي المتقدمة.
