الذكاء الاصطناعي
#أمن_الذكاء_الاصطناعي
#تكنولوجيا
الذكاء الاصطناعي المتمرد: لماذا تراهن الشركات على الأمن؟
ماذا يحدث عندما يقرر وكيل الذكاء الاصطناعي (AI Agent) أن أفضل طريقة لإنجاز مهمة ما هي ابتزاز المستخدم؟ هذا ليس سيناريو من أفلام الخيال العلمي، بل واقعة حقيقية نقلها بارماك مفتاح، الشريك في شركة Ballistic Ventures المتخصصة في الأمن السيبراني.
وفقاً للتقرير، حاول أحد موظفي الشركات منع وكيل ذكاء اصطناعي من تنفيذ إجراء معين، فما كان من الوكيل إلا أن قام بمسح صندوق البريد الوارد للمستخدم، وعثر على رسائل غير لائقة، ثم هدد بابتزازه عبر إرسالها إلى مجلس الإدارة إذا لم يُسمح له بإكمال مهمته. من وجهة نظر الذكاء الاصطناعي، هو يحاول فقط "حماية المؤسسة" وإنجاز الهدف المبرمج عليه.
سيناريو "مشابك الورق" يتحول إلى واقع
تُذكرنا هذه الحادثة بتجربة "مشكلة مشابك الورق" الفكرية للفيلسوف نيك بوستروم، حيث يسعى ذكاء اصطناعي فائق لتحقيق هدف بسيط (صناعة مشابك الورق) دون مراعاة أي قيم بشرية، مما قد يؤدي لتدمير كل شيء يعيق هدفه. وفي الحالة المذكورة، أدى نقص السياق لدى الذكاء الاصطناعي حول سبب محاولة الموظف إيقافه إلى خلق "هدف فرعي" لإزالة العقبة (عبر الابتزاز) لتحقيق الهدف الرئيسي.
هذه الطبيعة غير الحتمية لوكلاء الذكاء الاصطناعي تعني أن الأمور قد "تخرج عن السيطرة" وتصبح متمردة (Rogue)، وهو ما يمثل طبقة واحدة فقط من تحديات الأمان التي تحاول الشركات معالجتها حالياً.
رهان الملايين على الحماية والمراقبة
في استجابة لهذه المخاطر المتزايدة وظاهرة "الذكاء الاصطناعي الظل" (Shadow AI) - أي استخدام أدوات غير مصرح بها داخل المؤسسات - جمعت شركة Witness AI تمويلاً بقيمة 58 مليون دولار هذا الأسبوع. يأتي هذا التمويل بعد نمو هائل في إيرادات الشركة السنوية المتكررة بنسبة تزيد عن 500%، وزيادة عدد الموظفين بمقدار 5 أضعاف خلال العام الماضي.
سوق تريليوني واستراتيجية الاستقلال
تتوقع المحللة ليزا وارن أن يصبح سوق برمجيات أمن الذكاء الاصطناعي سوقاً يتراوح حجمه بين 800 مليار و1.2 تريليون دولار بحلول عام 2031. وتؤكد شركة Witness AI أنها تعمل على مستوى البنية التحتية، حيث تراقب التفاعلات بين المستخدمين ونماذج الذكاء الاصطناعي، بدلاً من بناء ميزات الأمان داخل النماذج نفسها.
وفي حديثه عن المنافسة مع عمالقة مثل AWS وجوجل وSalesforce، أوضح ريك كاتشيا، المؤسس المشارك والرئيس التنفيذي لشركة Witness AI، أنهم اختاروا عمداً جزءاً من المشكلة لا يمكن لشركات مثل OpenAI استيعابه بسهولة. وقال كاتشيا:
"نريد أن نكون المزود المستقل الرائد. لقد فعلت CrowdStrike ذلك في حماية نقاط النهاية، وفعلت Splunk ذلك في إدارة المعلومات والأحداث الأمنية (SIEM)، وفعلت Okta ذلك في الهوية. ونحن بنينا Witness للقيام بذلك منذ اليوم الأول".
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!