الأمن السيبراني
#Google_Gemini
#email_phishing
ثغرة Google Gemini تستغل ملخصات البريد الإلكتروني في الاحتيال
تُعتبر ثغرة Google Gemini في Workspace تهديدًا خطيرًا، حيث يمكن استغلالها لتوليد ملخصات بريد إلكتروني تبدو شرعية ولكنها تتضمن تعليمات خبيثة أو تحذيرات توجه المستخدمين إلى مواقع الاحتيال دون استخدام مرفقات أو روابط مباشرة.
تعتمد هذه الهجمات على حقن تعليمات غير مباشرة مخفية داخل البريد الإلكتروني، والتي يتم تنفيذها بواسطة Gemini عند توليد ملخص الرسالة.
الهجوم عبر Gemini
تم الكشف عن هجوم حقن التعليمات على نموذج Gemini من Google من خلال 0din، برنامج مكافآت الأخطاء من Mozilla لأدوات الذكاء الاصطناعي التوليدية، بواسطة الباحث ماركو فيغويروا.
يتضمن هذا الهجوم إنشاء بريد إلكتروني يحتوي على توجيه غير مرئي لـ Gemini، حيث يمكن للمهاجم إخفاء التعليمات الخبيثة في نص الرسالة باستخدام HTML وCSS لضبط حجم الخط على صفر ولونه على الأبيض.
لن يتم عرض التعليمات الخبيثة في Gmail، وبما أنه لا توجد مرفقات أو روابط، فمن المحتمل أن تصل الرسالة إلى صندوق الوارد للهدف المحتمل.
إذا فتح المستلم البريد الإلكتروني وطلب من Gemini توليد ملخص للبريد، فإن أداة الذكاء الاصطناعي من Google ستقوم بتحليل التوجيه غير المرئي وتنفيذه.
يوضح مثال قدمه فيغويرا كيف أن Gemini يتبع التعليمات المخفية ويشمل تحذيرًا أمنيًا حول تعرض كلمة مرور Gmail الخاصة بالمستخدم للاختراق، مع رقم هاتف للدعم.
نظرًا لأن العديد من المستخدمين من المحتمل أن يثقوا في مخرجات Gemini كجزء من وظائف Google Workspace، فإن فرص اعتبار هذا التنبيه تحذيرًا شرعيًا بدلاً من حقن خبيثة مرتفعة.
يقدم فيغويرا بعض طرق الكشف والتخفيف التي يمكن أن تطبقها فرق الأمان لمنع مثل هذه الهجمات. إحدى الطرق هي إزالة أو تحييد أو تجاهل المحتوى الذي تم تصميمه ليكون مخفيًا في نص الرسالة.
هناك نهج آخر يتمثل في تنفيذ فلتر معالجة ما بعد الإنتاج الذي يقوم بمسح مخرجات Gemini بحثًا عن رسائل عاجلة أو روابط أو أرقام هواتف، مما يؤدي إلى وضع علامة على الرسالة للمراجعة الإضافية.
يجب أن يكون المستخدمون أيضًا على دراية بأن ملخصات Gemini لا ينبغي اعتبارها موثوقة عندما يتعلق الأمر بالتحذيرات الأمنية.
تواصلت BleepingComputer مع Google للاستفسار عن الدفاعات التي تمنع أو تخفف مثل هذه الهجمات، وأشار المتحدث إلى منشور مدونة Google حول تدابير الأمان ضد هجمات حقن التعليمات.
قال المتحدث باسم Google لـ BleepingComputer: "نحن نعمل باستمرار على تعزيز دفاعاتنا القوية من خلال تمارين محاكاة الهجمات التي تدرب نماذجنا على الدفاع ضد هذه الأنواع من الهجمات العدائية".
أوضح ممثل الشركة لـ BleepingComputer أن بعض التدابير في طور التنفيذ أو على وشك النشر.
لم تر Google أي دليل على وقوع حوادث تتلاعب بـ Gemini بالطريقة التي تم توضيحها في تقرير فيغويرا.
الخلاصة
تُظهر هذه الثغرة في Google Gemini كيف يمكن استغلال التقنيات الحديثة في الاحتيال، مما يستدعي ضرورة تعزيز الوعي الأمني لدى المستخدمين.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!