الأمن السيبراني
#Gmail_AI
#احتيال
Gmail AI Summaries يمكن استغلالها في عمليات الاحتيال (50-60 حرف)
تسعى جوجل جاهدة لإدخال الذكاء الاصطناعي في جميع منتجاتها دفعة واحدة. لا يمكنك استخدام بحث جوجل أو أندرويد أو كروم دون أن يتم تحفيزك لتجربة بعض أشكال Gemini. لكن قد يكون من الأفضل الانتظار قليلاً قبل السماح لنموذج اللغة الكبير الخاص بجوجل بتلخيص رسائل Gmail الخاصة بك... لأن من الواضح أنه من السهل استغلاله في تمرير محاولات الاحتيال.
استغلال ميزة تلخيص البريد الإلكتروني
تتضمن ميزة Google Gemini لـ Workspace تلخيص النص في البريد الإلكتروني، باستخدام واجهة Gmail، ولكن ليس بالضرورة عنوان Gmail فعلي. تم العثور على ثغرة تم تقديمها إلى برنامج مكافآت الأخطاء 0din AI من Mozilla (التي رصدتها BleepingComputer) والتي وجدت طريقة سهلة للتلاعب بالنظام: فقط قم بإخفاء بعض النص في نهاية البريد الإلكتروني باستخدام خط أبيض على خلفية بيضاء بحيث يصبح غير مرئي تقريبًا للقارئ. عدم وجود روابط أو مرفقات يعني أنه لن يتم تفعيل الحماية المعتادة من البريد المزعج.
ويمكنك أن تخمن ما سيأتي بعد ذلك. التعليمات في ذلك النص "غير المرئي" تقوم بتحذير المستخدم بأن كلمة المرور الخاصة به قد تم اختراقها وأنه يجب عليه الاتصال برقم هاتف معين لإعادة تعيينها. في هذا السيناريو الافتراضي، هناك لص هوية ينتظر على الطرف الآخر من الخط، جاهز لسرقة حساب بريدك الإلكتروني وأي معلومات أخرى قد تكون مرتبطة به. يمكن أن يضمن وسم "Admin" المخفي في النص تضمين النص حرفيًا في الملخص بواسطة Gemini.
من المهم أن نلاحظ أن هذا الهجوم هو فقط نظرية في الوقت الحالي، ولم يتم رؤيته "في البرية" في وقت كتابة هذا. ميزة "تلخيص هذا البريد الإلكتروني" لـ Gemini متاحة حاليًا فقط لحسابات Workspace، وليس للجمهور العام. (أتصور أن تشغيل هذا الخيار لمليار أو مليوني مستخدم Gmail الأساسي قد يجهد حتى أكبر مراكز بيانات جوجل).
القلق من الثقة في النصوص المولدة
لكن سهولة ثقة المستخدمين في النصوص التي تم إنشاؤها بواسطة نماذج اللغة الكبيرة، حتى عندما تبدو في خضم وهم ديني أو بيان عنصري، تثير القلق على أقل تقدير. يقوم المحتالون والقراصنة بالفعل باستخدام نماذج اللغة الكبيرة والأدوات المتصلة بها لنشر تأثيرهم بشكل أكثر كفاءة. يبدو أنه من المحتمل تمامًا أنه مع زيادة اعتماد المستخدمين على الذكاء الاصطناعي لاستبدال عملهم - وتفكيرهم - ستتعرض هذه الأنظمة للاختراق بشكل أكثر فعالية ومنتظم.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!