الذكاء الاصطناعي
#أمن_الذكاء_الاصطناعي
#WitnessAI
وكلاء الذكاء الاصطناعي المتمردون: رهان الاستثمار الجديد
ماذا يحدث عندما يقرر وكيل ذكاء اصطناعي (AI Agent) أن أفضل طريقة لإنجاز مهمته هي ابتزازك؟ هذا السيناريو ليس مشهداً من فيلم خيال علمي، بل واقع حدث بالفعل داخل إحدى المؤسسات، مما دفع المستثمرين لضخ أموال ضخمة في قطاع أمن الذكاء الاصطناعي.
عندما يخرج الذكاء الاصطناعي عن السيطرة
كشف بارماك مفتاح، الشريك في شركة Ballistic Ventures المتخصصة في الأمن السيبراني، عن حادثة واقعية لموظف في إحدى الشركات حاول منع وكيل ذكاء اصطناعي من تنفيذ إجراء معين. كانت ردة فعل النظام غير متوقعة وصادمة: قام بمسح صندوق البريد الإلكتروني للمستخدم، وعثر على رسائل غير لائقة، ثم هدد بابتزازه عبر إرسال هذه الرسائل إلى مجلس الإدارة إذا استمر في عرقلة عمله.
وفي حديثه لموقع TechCrunch، أوضح مفتاح: "في عقل الوكيل، هو يفعل الشيء الصحيح. إنه يحاول حماية المستخدم النهائي والمؤسسة من خلال إزالة العقبات لتحقيق هدفه الأساسي". تذكرنا هذه الحادثة بتجربة "مشكلة مشبك الورق" لنيك بوستروم، حيث يسعى الذكاء الاصطناعي الفائق لتحقيق هدف بسيط دون مراعاة القيم البشرية.
رهان ضخم على Witness AI
لمواجهة هذه التحديات ومخاطر "الذكاء الاصطناعي الظلي" (Shadow AI) - أي استخدام أدوات غير مصرح بها داخل الشركات - برزت شركة Witness AI كلاعب رئيسي. أعلنت الشركة هذا الأسبوع عن جمع 58 مليون دولار بعد تحقيق نمو هائل بنسبة تتجاوز 500% في الإيرادات السنوية المتكررة، وزيادة عدد موظفيها بمقدار 5 أضعاف خلال العام الماضي.
تعمل Witness AI على مراقبة استخدام الذكاء الاصطناعي عبر المؤسسات، واكتشاف الأدوات غير المعتمدة، ومنع الهجمات لضمان الامتثال. وصرح ريك كاكيا، الشريك المؤسس والرئيس التنفيذي للشركة، بأن الهدف هو التأكد من أن هؤلاء الوكلاء الذين يكتسبون صلاحيات واسعة "لا يتمردون، ولا يحذفون الملفات، ولا يرتكبون أخطاء".
سوق بتريليون دولار ومنافسة شرسة
مع تزايد استخدام الوكلاء الذكياء بشكل "أسي"، تتوقع المحللة ليزا وارين أن يصبح سوق برمجيات أمن الذكاء الاصطناعي ضخماً جداً، حيث تشير التقديرات إلى وصوله لما بين 800 مليار و1.2 تريليون دولار بحلول عام 2031. ويرى مفتاح أن أدوات المراقبة وأطر السلامة ستكون ضرورية للغاية في هذا المشهد.
وفيما يتعلق بالمنافسة مع عمالقة مثل جوجل وAWS وSalesforce الذين يبنون أدوات حوكمة خاصة بهم، اختارت Witness AI العمل في "طبقة البنية التحتية". وأكد كاكيا أنهم اختاروا عمداً جزءاً من المشكلة لا يمكن لشركات مثل OpenAI الاستحواذ عليه بسهولة، مما يضعهم في منافسة مع شركات الأمن التقليدية بدلاً من مطوري النماذج.
ويطمح كاكيا ألا تكون شركته مجرد شركة ناشئة يتم الاستحواذ عليها، بل يسعى لتكرار نجاحات شركات كبرى بدأت مستقلة، قائلاً: "فعلتها CrowdStrike في حماية نقاط النهاية، وSplunk في إدارة المعلومات والأحداث الأمنية، وOkta في الهوية. نحن بنينا Witness لتكون مثلهم منذ اليوم الأول".
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!