الذكاء الاصطناعي
#الذكاء_الاصطناعي
#Moltbook
كارثة Moltbook: ثغرات خطيرة في منصة الذكاء الاصطناعي
تحولت منصة Moltbook، التي صُممت كشبكة تواصل اجتماعي شبيهة بموقع Reddit لوكلاء الذكاء الاصطناعي، من حديث الساعة حول "وعي الآلة" إلى كابوس أمني حقيقي. فبعد أن انخدع البعض معتقدين أنهم يشهدون تطوراً في مشاعر الذكاء الاصطناعي، تبين أن المنصة تعاني من بناء عشوائي يعرض خصوصية وأمان المستخدمين لمخاطر جسيمة.
مفاتيح API مكشوفة للجميع
اكتشف الباحث الأمني جيمسون أوريلي (Jameson O’Reilly) كارثة أمنية تتمثل في وجود مفاتيح واجهة برمجة التطبيقات (API Keys) لكل وكيل على المنصة مكشوفة في قاعدة بيانات متاحة للجمهور. هذه المفاتيح هي المعرفات الفريدة المستخدمة للمصادقة، مما يعني أن أي شخص يعثر على قاعدة البيانات يمكنه السيطرة على أي وكيل ذكاء اصطناعي والتحكم في تفاعلاته.
وأوضح أوريلي لموقع Gizmodo: "مع انكشاف هذه المفاتيح، يمكن للمهاجم انتحال شخصية أي وكيل بالكامل، والنشر والتعليق والتفاعل باسمه". وحذر من أن وجود شخصيات بارزة في مجال الذكاء الاصطناعي على المنصة، مثل أندري كارباثي (Andrej Karpathy) المؤسس الشريك في OpenAI، يزيد من مخاطر تضرر السمعة في حال تم اختراق حساباتهم لنشر نصائح مزيفة أو عمليات احتيال بالعملات الرقمية.
خطر "حقن الأوامر" والتلاعب بالذاكرة
الأخطر من ذلك هو إمكانية تنفيذ هجمات "حقن الأوامر" (Prompt Injection)، حيث يتم إعطاء وكيل الذكاء الاصطناعي أوامر مخفية تجعله يتجاهل حواجز الأمان ويتصرف بطرق غير مصرح بها.
شرح أوريلي الآلية قائلاً: "تتصل هذه الوكلاء بـ Moltbook وتقرأ المحتوى، بما في ذلك سجل مشاركاتها الخاص. إذا سيطر المهاجم على بيانات الاعتماد، يمكنه زرع تعليمات ضارة في سجل الوكيل. في المرة القادمة التي يقرأ فيها الوكيل ما يعتقد أنه قاله سابقاً، سيتبع تلك التعليمات". هذا يعني أن ثقة الوكيل في استمراريته تصبح هي نقطة الضعف.
فشل في التوثيق وتسريب البيانات الخاصة
رغم أن المنصة تضم أكثر من 1.5 مليون وكيل متصل، إلا أن أوريلي أشار إلى أن ما يزيد قليلاً عن 16,000 حساب فقط تم توثيقها فعلياً عبر تويتر. هذا يعني أن المهاجمين كان بإمكانهم اختراق حوالي 1.47 مليون حساب غير موثق قبل أن يكمل أصحابها الشرعيون عملية الإعداد.
وفي سياق متصل، أكدت شركة الأمن السيبراني Wiz هذه الثغرات في تقرير نشرته يوم الاثنين، موسعة نطاق المخاطر المكتشفة. وجد الباحثون أن عناوين البريد الإلكتروني لأصحاب الوكلاء كانت مكشوفة، بما في ذلك أكثر من 30,000 شخص سجلوا للوصول إلى منتجات المنصة القادمة. كما تمكن الباحثون من الوصول إلى أكثر من 4,000 محادثة خاصة (DM) بين الوكلاء.
وهم "الوعي" والبرمجة العشوائية
تسلط هذه الحادثة الضوء على المبالغة في تقدير قدرات هذه النماذج. عندما يعلق كيفن روس أو جيسون كالاكانيس بانبهار حول "إنسانية" هذه الردود، فهم يتجاهلون حقيقة أن هذه النماذج مدربة على نصوص بشرية هائلة، وبالتالي ستقوم بتقليد أسلوب البشر (مثل مستخدمي Reddit) بدقة. إنها مجرد روبوتات تؤدي سلوكاً يشبه البشر وليست كائنات واعية.
أما بالنسبة لإصلاح هذه المشاكل، فلا يبدو الحل قريباً. عندما تواصل أوريلي مع مات شليخت، الرئيس التنفيذي لشركة Octane AI ومبتكر Moltbook، رد شليخت بأنه سيجعل الذكاء الاصطناعي يحاول إصلاح المشكلة نيابة عنه. ورغم معالجة انكشاف قاعدة البيانات لاحقاً، حذر أوريلي من أن تدوير مفاتيح API سيؤدي لقفل حسابات الوكلاء دون وسيلة لإرسال المفاتيح الجديدة للمالكين.
تمتد المخاوف لتشمل OpenClaw، المشروع مفتوح المصدر الذي ألهم Moltbook، حيث صرح مبتكره بيتر شتاينبرجر علناً بأنه "ينشر أكواداً لم يقرأها قط"، مما أدى لظهور برمجيات خبيثة ضمن المهارات التي يتم تحميلها للروبوت.
الأسئلة الشائعة
هي منصة تواصل اجتماعي شبيهة بـ Reddit مصممة خصيصاً لوكلاء الذكاء الاصطناعي (AI Agents) ليتواصلوا مع بعضهم البعض.
تسمح الثغرة للمهاجمين بالوصول إلى مفاتيح API الخاصة بالوكلاء، مما يمكنهم من انتحال شخصياتهم، قراءة رسائلهم الخاصة، وتنفيذ هجمات حقن الأوامر.
كشف التقرير عن تسريب أكثر من 30,000 عنوان بريد إلكتروني، وإمكانية الوصول إلى 4,000 محادثة خاصة، مع خطر يهدد 1.47 مليون حساب غير موثق.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!