الذكاء الاصطناعي
#الذكاء_الاصطناعي
#ChatGPT
رسمياً: OpenAI تحصن ChatGPT بـ "وضع القفل" الأمني
في خطوة استراتيجية لتعزيز جدار الحماية حول تقنياتها، أعلنت شركة OpenAI يوم الجمعة عن إطلاق ميزتين أمنيتين جديدتين لروبوت الدردشة "شات جي بي تي"، بهدف التصدي للتحديات المتنامية في مجال أمن الذكاء الاصطناعي.
ميزات جديدة لمواجهة التهديدات
كشفت الشركة في بيانها الرسمي عن ميزتي "وضع القفل" (Lockdown Mode) و"خطر مرتفع" (Elevated Risk). وقد صُممت هاتان الأداتان خصيصاً لسد الثغرات أمام "هجمات حقن الأوامر"، وهي تكتيكات تستخدمها جهات خبيثة للتلاعب بأنظمة الذكاء الاصطناعي وإجبارها على كشف معلومات سرية أو تنفيذ مهام غير مصرح بها.
ما هو "وضع القفل" (Lockdown Mode)؟
يُعد "وضع القفل" إعداداً متقدماً واختيارياً يستهدف فئة محددة من المستخدمين الأكثر عرضة للاستهداف، مثل المديرين التنفيذيين وفرق الأمن السيبراني في المؤسسات الكبرى. وتوضح OpenAI أن هذا الوضع يفرض قيوداً صارمة على تفاعل ChatGPT مع الأنظمة الخارجية.
عند تفعيل هذا الوضع، يتم تعطيل بعض الأدوات والميزات بشكل قسري؛ وذلك لمنع أي محاولة لاستغلالها في تسريب بيانات حساسة من محادثات المستخدمين أو التطبيقات المتصلة.
لمن تتوفر الميزة الجديدة؟
أكدت الشركة أن "وضع القفل" متاح حالياً لاشتراكات محددة تشمل:
- ChatGPT Enterprise
- ChatGPT Edu
- ChatGPT for Healthcare
- ChatGPT for Teachers
كما تخطط OpenAI لتوسيع نطاق هذه الميزة لتشمل المستخدمين العاديين خلال الأشهر القادمة، مما يعكس التزامها برفع مستوى الأمان للجميع.
تنبيهات "الخطر المرتفع"
أما الميزة الثانية، "Elevated Risk"، فهي نظام تصنيف ذكي يعمل داخل ChatGPT وأدوات أخرى مثل "أطلس" و"كودكس". تقوم هذه الميزة بوضع علامات واضحة وتنبيهات للمستخدمين عند استخدام قدرات قد تنطوي على مخاطر إضافية، خاصة تلك المتعلقة بالاتصال بالشبكة والتي قد تحتوي على ثغرات لم تُعالج كلياً.
تأتي هذه التحركات من OpenAI استجابة للتحذيرات المتزايدة عالمياً من عمليات الاختراق التي تستهدف البنية التحتية لنماذج الذكاء الاصطناعي، مما يجعل الأمان أولوية قصوى في المرحلة الحالية.
الأسئلة الشائعة
هو إعداد أمان متقدم يفرض قيوداً صارمة ويعطل بعض الميزات لمنع تفاعل ChatGPT مع أنظمة خارجية قد تكون ضارة.
تستهدف الميزة المستخدمين المعرضين لمخاطر عالية مثل المديرين التنفيذيين وفرق الأمن في المؤسسات الكبرى.
تقوم بتصنيف وتنبيه المستخدمين عند استخدام ميزات في ChatGPT أو أطلس أو كودكس قد تنطوي على مخاطر أمنية محتملة.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!