الأمن السيبراني
#مايكروسوفت
#الذكاء_الاصطناعي
تحذير مايكروسوفت: مساعدك الذكي قد يتحول لعميل مزدوج
حذرت شركة مايكروسوفت من أن التسرع في نشر وكلاء الذكاء الاصطناعي في بيئات العمل قد يخلق نوعاً جديداً من التهديدات الداخلية، واصفة إياها بـ "العميل المزدوج". وأوضح تقرير "Cyber Pulse" الأخير للشركة أن المهاجمين يمكنهم التلاعب بصلاحيات المساعد الذكي أو تغذيته بمدخلات غير موثوقة لإحداث أضرار جسيمة داخل المؤسسات.
خطر "العميل المزدوج" وتسميم الذاكرة
لا تكمن المشكلة في حداثة الذكاء الاصطناعي، بل في تفاوت مستويات التحكم والرقابة. تشير مايكروسوفت إلى أن انتشار هؤلاء الوكلاء عبر الصناعات المختلفة يتم أحياناً بعيداً عن أعين فرق تكنولوجيا المعلومات والأمن، مما يخلق نقاط عمياء خطيرة.
وتزداد الخطورة عندما يمتلك الوكيل الذكي القدرة على التذكر واتخاذ الإجراءات. وقد سلط فريق "Defender" الضوء على حملة احتيالية حديثة استخدمت تقنية "تسميم الذاكرة" (Memory Poisoning) للتلاعب بالسياق المخزن لدى المساعد الذكي وتوجيه مخرجاته المستقبلية لخدمة المهاجمين.
الذكاء الاصطناعي الظلي (Shadow AI)
تربط مايكروسوفت بين خطر العميل المزدوج والسرعة في التنفيذ. عندما تسبق عمليات النشر إجراءات الأمان والامتثال، يظهر ما يسمى بـ "الذكاء الاصطناعي الظلي" بسرعة، مما يمنح المهاجمين فرصاً أكبر لاختطاف أدوات تمتلك بالفعل وصولاً مشروعاً للبيانات.
وكشف التقرير عن إحصائية مقلقة، حيث أقر 29% من الموظفين باستخدام وكلاء ذكاء اصطناعي غير معتمدين لإنجاز مهام العمل، وهو توسع صامت يجعل اكتشاف التلاعب أكثر صعوبة.
الحل: استراتيجية "صفر ثقة"
تنصح مايكروسوفت بالتعامل مع وكلاء الذكاء الاصطناعي كفئة جديدة من الهوية الرقمية، وليس مجرد إضافات برمجية. ويوصي التقرير بتبني نهج "صفر ثقة" (Zero Trust)، والتحقق من الهوية، وتقييد الصلاحيات، ومراقبة السلوك باستمرار لرصد أي نشاط غير مألوف.
وتشدد الشركة على أهمية الإدارة المركزية، حيث يجب على فرق الأمن جرد جميع الوكلاء وفهم ما يمكنهم الوصول إليه قبل توسيع نطاق استخدامهم. إذا لم تتمكن المؤسسة من ضبط هذه الأساسيات، فالأفضل هو التمهل وإصلاح الثغرات أولاً.
الأسئلة الشائعة
هو وكيل ذكاء اصطناعي داخل المؤسسة يتم اختراقه أو التلاعب به من قبل مهاجمين لاستخدامه في إحداث ضرر أو سرقة بيانات، مستغلين صلاحياته المشروعة.
هي هجوم يستهدف ذاكرة المساعد الذكي عبر إدخال معلومات مضللة أو ضارة في سياقه المخزن، مما يؤثر على ردود فعله وقراراته المستقبلية.
توصي مايكروسوفت بتطبيق نهج "صفر ثقة" (Zero Trust)، والإدارة المركزية للوكلاء، وتقييد الصلاحيات، والمراقبة المستمرة للسلوكيات غير المعتادة.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!