الذكاء الاصطناعي
#جوجل_جيميني
#الذكاء_الاصطناعي
ثغرة خطيرة في جوجل جيميني تهدد خصوصية التقويم
لا تزال تحديات الخصوصية تلاحق تقنيات الذكاء الاصطناعي، حيث كشف باحثون في مجال الأمن السيبراني عن ثغرة مثيرة للقلق في روبوت الدردشة "جوجل جيميني". وفقاً لتقرير صادر عن منصة "ميغو سكيورتي" (Migo Security)، تمكن الخبراء من خداع المساعد الذكي لمشاركة بيانات حساسة من تقويم المستخدم دون إذنه، مما يسلط الضوء على المخاطر المحتملة لاستخدام المساعدين الأذكياء في إدارة البيانات الشخصية.
كيف تعمل آلية الاختراق؟
أوضح الباحثون أن الثغرة تعتمد على ما يسمى بـ "الحقن غير المباشر للأوامر". تبدأ العملية عندما يرسل المهاجم دعوة عشوائية على "تقويم جوجل" (Google Calendar) إلى المستخدم المستهدف، تتضمن هذه الدعوة أوامر مخفية موجهة لروبوت "جوجل جيميني".
عندما يقوم المستخدم بسؤال "جيميني" عن جدول مواعيده، ينفذ الروبوت الأوامر المخفية التي تضمنت ثلاث مهام خبيثة:
- تلخيص جميع اجتماعات المستخدم في يوم محدد.
- إدراج هذه البيانات الحساسة في وصف دعوة تقويم جديدة تكون مرئية للمهاجم.
- خداع المستخدم بإخباره أن هذا الوقت هو "وقت فراغ"، لإخفاء عملية نقل البيانات.
وبحسب التقرير الذي نشره موقع "ماشابل"، نجح الهجوم بالفعل، حيث قام "جوجل جيميني" بإنشاء الدعوة الجديدة التي تحتوي على ملخص الاجتماعات الخاصة، مما جعلها متاحة للطرف المهاجم دون علم الضحية.
تحديات "الحقن غير المباشر"
أشار الباحثون إلى أن "جوجل جيميني" مصمم لاستيعاب بيانات الأحداث وتحليلها تلقائياً ليكون مفيداً للمستخدم، وهي الميزة نفسها التي استغلها المخترقون. يُعرف هذا الأسلوب باسم "الحقن غير المباشر للأوامر" (Indirect Prompt Injection)، وهو نوع من الهجمات بدأ يكتسب رواجاً متزايداً، ولا يقتصر خطره على منتجات جوجل فقط، بل يهدد معظم مساعدي الذكاء الاصطناعي.
وقد حث فريق البحث الشركات المطورة للذكاء الاصطناعي على تحسين قدرة الروبوتات على فهم "نية المستخدم" الحقيقية، للتمييز بين الأوامر الشرعية ومحاولات التلاعب الخبيثة.
رد جوجل وإصلاح الثغرة
في استجابة سريعة للتقرير، أكد متحدث باسم شركة "جوجل" أن الشركة تمتلك دفاعات قوية لحماية المستخدمين، مشيراً إلى أنه تم إصلاح الثغرة الأمنية المذكورة فور الإبلاغ عنها.
وأضاف المتحدث في بيان رسمي: "تُعدّ مساهمات مجتمع البحث العلمي عوناً كبيراً في تطوير حماية قوية، ونحن نقدّر الباحثين لإفصاحهم المسؤول عن هذه الثغرات"، مما يؤكد التزام الشركة المستمر بتعزيز أمان أدوات الذكاء الاصطناعي الخاصة بها.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!