الصفحات
بحث
الهجمات على نماذج اللغة الكبيرة: تهديدات جديدة للأمن السيبراني
الأمن السيبراني #نماذج_اللغة_الكبيرة #الأمن_السيبراني

الهجمات على نماذج اللغة الكبيرة: تهديدات جديدة للأمن السيبراني

تاريخ النشر: آخر تحديث: 77 مشاهدة 0 تعليق 3 دقائق قراءة
مروان المسلماني
مروان المسلماني رئيس التحرير والمؤسس
77 مشاهدة
0 إعجاب
0 تعليق
موثوق 95%

يستهدف المهاجمون خدمات نماذج اللغة الكبيرة (LLM) المكشوفة من خلال حملتين منفصلتين، حيث سجلت الحملة مجتمعة ما يقرب من 100,000 هجمة على الخدمات المستهدفة. تهدف هذه الهجمات جزئيًا إلى رسم خريطة لمساحة الاستخدام المتزايدة لنشر الذكاء الاصطناعي (AI) في المؤسسات، حيث من المتوقع أن تنتقل هذه الاستخدامات من مرحلة التجريب إلى مرحلة الإنتاج هذا العام، وفقًا لما ذكره باحثو GreyNoise.

اكتشفت GreyNoise الهجمات عبر نظام فخ بين أكتوبر والآن، حيث رصدت ما مجموعه 91,403 جلسات هجوم تعود إلى حملتين منفصلتين، كما تم الكشف عنه في مدونة حديثة. الحملة السابقة، التي يُحتمل أن تكون من عمل هاكرز أخلاقيين، استغلت ثغرات في طلبات الخادم (SSRF) لإجبار الخوادم المستهدفة على إجراء اتصالات خارجية مع بنية تحتية تسيطر عليها المهاجمون.

بدت الحملة الأخرى أكثر إشكالية، وهي "التي يجب أن تثير قلق" المنظمات، كما كتب الباحث Bob Rudis في المدونة. جاءت هذه الحملة من عنوانين IP أطلقت "استكشافًا منهجيًا لأكثر من 73 نقطة نهاية لنموذج LLM" لتحديد الخوادم الوكيلة غير المهيأة.

قصة حملتين سيبرانية ضد منصات الذكاء الاصطناعي 

استمرت الحملة الأولى، التي جرت من أكتوبر 2025 حتى يناير، وارتفعت "بشكل دراماتيكي" خلال عيد الميلاد مع 1,688 جلسة في 48 ساعة، باستخدام متجهين. الأول كان حقن عناوين URL ضارة في السجل لإجبار الخوادم على إجراء طلبات HTTP إلى بنية المهاجمين، بينما الثاني قام بتعديل معلمات MediaUrl لتحفيز اتصالات خارجية.

حددت GreyNoise أن الحملة، التي جاءت من 62 عنوان IP موزعة عبر 27 دولة، كانت على الأرجح من عمل باحثين في الأمن أو صيادي الثغرات، حيث استخدمت بنية ProjectDiscovery's OAST (اختبار أمان التطبيقات خارج النطاق) لتأكيد نجاح استغلال SSRF عبر التحقق من ردود الاتصال — وهي سمة مميزة لمثل هذا البحث. ومع ذلك، "تشير النطاق والتوقيت خلال عيد الميلاد إلى عمليات ذات قبعة رمادية تدفع الحدود"، كما كتب Rudis.

بدأت الحملة الثانية في 28 ديسمبر، وكانت تمثل تهديدًا خبيثًا أكبر واستهدفت "كل عائلة نموذج رئيسية"، كما كتب Rudis. كانت نماذج LLM المستهدفة تشمل: OpenAI (GPT-4o ونسخها)، Anthropic (Claude Sonnet، Opus، Haiku)، Meta (Llama 3.x)، DeepSeek (DeepSeek-R1)، Google (Gemini)، Mistral، Alibaba (Qwen)، وxAI (Grok).

اختبرت الهجمات واجهات برمجة التطبيقات الخاصة بالخدمات من خلال استفسارات "كانت عمدًا غير ضارة مع الهدف المحتمل لتحديد أي نموذج يستجيب فعليًا دون تفعيل تنبيهات الأمان"، كما كتب.

استكشفت GreyNoise عناوين IP التي نفذت الهجمات ووجدت اثنين سبق ملاحظتهما يستغلان العديد من الثغرات المعروفة، بما في ذلك React2Shell (CVE-2025-55182)، CVE-2023-1389، وأكثر من 200 عيب معروف آخر. "تتجاوز الملاحظات المجمعة 4 ملايين ضربة حساسة"، كما كتب Rudis.

‍دفاعًا عن LLMs من لصوص البيانات

تمثل الحملتان معًا كيف يمكن للمهاجمين الاستفادة من الاستخدام المتزايد للمنظمات لنماذج الذكاء الاصطناعي العامة لرسم خريطة باستمرار لمساحة نشر الذكاء الاصطناعي المتزايدة. تستدعي هذه الأنشطة المنظمات لتبني تدابير أمان أكثر صرامة حول استخدام LLMs العامة، كما قال Rudis.

لحماية النقاط النهائية ضد الحملتين بشكل محدد، أدرجت GreyNoise قائمة بالنطاقات وعناوين IP الخاصة بـ OAST التي يجب على المدافعين حظرها.

تشمل الخطوات الأخرى التي يجب على المنظمات اتخاذها تأمين عمليات سحب النموذج باستخدام تصفية الخروج، مما يمنع ردود الاتصال SSRF من الوصول إلى بنية المهاجمين، كما أشار Rudis. يجب على المدافعين أيضًا اكتشاف أنماط التعداد من خلال وضع تنبيه على الطلبات السريعة التي تضرب نقاط نهاية متعددة للنموذج، بالإضافة إلى مراقبة استفسارات بصمات الأصابع.

تشمل تكتيكات التخفيف الأخرى حظر OAST عند DNS لقطع قناة رد الاتصال التي تؤكد الاستغلال الناجح، وتحديد معدل ASN المشبوهة، خاصة AS152194، AS210558، وAS51396، التي "ظهرت جميعها بشكل بارز في حركة الهجوم"، كما كتب.

أخيرًا، يمكن للمنظمات اكتشاف الأدوات والأتمتة التي تستهدف بنيتها التحتية من خلال مراقبة بصمات JA4، كما قال Rudis. JA4+ هو مجموعة من معايير بصمات الشبكة.

الأمن السيبراني

أحدث أخبار وتحليلات الأمن السيبراني
عرض الكل
##نماذج_اللغة_الكبيرة ##الأمن_السيبراني

التعليقات 0

سجل دخولك لإضافة تعليق

لا توجد تعليقات بعد. كن أول من يعلق!