القيادة الذاتية
#القيادة_الذاتية
#أمن_المعلومات
تحذير: لافتات الطرق تخدع السيارات ذاتية القيادة (2025)
كشفت ورقة بحثية جديدة عن ثغرة أمنية مقلقة في أنظمة الذكاء الاصطناعي المجسد (Embodied AI)، حيث يمكن للافتات الطرق المعدلة أن تخدع المركبات الروبوتية وتسيطر عليها. هذا النوع الجديد من الهجمات يسلط الضوء على المخاطر الأمنية المتزايدة مع تطور الاعتماد على الأنظمة المستقلة في حياتنا اليومية.
ما هو هجوم CHAI الجديد؟
قدم الباحثون فئة جديدة من الهجمات القائمة على الأوامر النصية أطلقوا عليها اسم "CHAI" (اختطاف الأوامر ضد الذكاء الاصطناعي المجسد). يستغل هذا الهجوم قدرات التفسير متعدد الوسائط (Multimodal) لدى النماذج البصرية اللغوية الكبيرة (LVLMs)، التي تُستخدم عادةً لتمكين الروبوتات من فهم محيطها واتخاذ القرارات.
يقوم الهجوم بدمج تعليمات لغة طبيعية خادعة ومضللة داخل المدخلات البصرية، مثل لافتات الطرق. ويعمل النظام بشكل منهجي على البحث في مساحة الرموز وبناء قاموس من الأوامر، مما يوجه نموذج المهاجم لتوليد "أوامر هجوم بصرية" تخدع النظام المستهدف.
أهداف الهجوم ونتائج التجارب
تعد أنظمة الذكاء الاصطناعي المجسد واعدة لقدرتها على التعامل مع الحالات النادرة في أنظمة المركبات الروبوتية حيث تكون البيانات شحيحة، وذلك باستخدام التفكير المنطقي السليم. ومع ذلك، أظهرت التجارب أن هذه القدرات تخلق مخاطر أمنية جديدة.
قيّم الباحثون هجوم CHAI على أربعة وكلاء يعتمدون على النماذج البصرية اللغوية الكبيرة (LVLMs)، وشملت الاختبارات:
- هبوط الطائرات المسيرة (Drones) في حالات الطوارئ.
- أنظمة القيادة الذاتية.
- تتبع الأجسام الجوي.
- مركبة روبوتية حقيقية.
الحاجة الملحة لآليات دفاع جديدة
أظهرت النتائج أن هجوم CHAI يتفوق باستمرار على أحدث الهجمات المعروفة حالياً. ومن خلال استغلال نقاط القوة في التفكير الدلالي ومتعدد الوسائط لأنظمة الجيل القادم من الذكاء الاصطناعي، يؤكد الباحثون على الحاجة الملحة لتطوير دفاعات تتجاوز المتانة التقليدية لمواجهة هذه التهديدات المعقدة.
الأسئلة الشائعة
هو فئة جديدة من الهجمات تستغل قدرات النماذج البصرية اللغوية الكبيرة لدمج تعليمات خادعة في المدخلات البصرية مثل لافتات الطرق للسيطرة على الروبوتات.
يستهدف الهجوم أنظمة الذكاء الاصطناعي المجسد في الطائرات المسيرة، السيارات ذاتية القيادة، والمركبات الروبوتية.
يقوم بدمج تعليمات لغة طبيعية مضللة في الصور (مثل اللافتات) ويوجه النظام لتوليد أوامر بصرية تخدع خوارزميات اتخاذ القرار في المركبة.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!