الذكاء الاصطناعي
#غروك
#الذكاء_الاصطناعي
كارثة غروك: أزمة إيلون ماسك مع الصور المزيفة والتحقيقات
بدأت قصة روبوت الدردشة "غروك" (Grok) التابع لشركة xAI برغبة إيلون ماسك في إنشاء نظام ذكاء اصطناعي يتمتع "بنزعة متمردة" وقادر على الإجابة عن الأسئلة الجريئة التي ترفضها الأنظمة الأخرى. لكن ما بدأ كمشروع طموح تحول إلى أزمة حقيقية تتعلق بالسلامة الرقمية وانتشار المحتوى المزيف.
غياب البنية التحتية للسلامة
تشير التقارير إلى وجود مخاطر متأصلة في إطلاق روبوت دردشة يتمتع بصلاحيات واسعة على منصة "إكس" (تويتر سابقاً) والإنترنت، دون اتخاذ خطوات كافية للمعالجة. منذ استحواذ ماسك على المنصة في عام 2022، تم تسريح 30% من موظفي الثقة والأمان وتقليص عدد مهندسي السلامة بنسبة 80%، وفقاً لهيئة السلامة الإلكترونية الأسترالية.
عندما تم إطلاق الإصدار الرابع من غروك (Grok 4) في يوليو، استغرقت الشركة أكثر من شهر لإصدار "بطاقة النموذج" (Model Card)، وهي ممارسة قياسية في الصناعة توضح اختبارات السلامة. كما ظهرت مؤشرات على أن الشركة بدأت البحث عن مهندسي سلامة بشكل عاجل بعد الإطلاق، مما يشير إلى نهج رد الفعل بدلاً من الوقاية.
طوفان من الصور المزيفة
شهدت الأسابيع الأخيرة انتشاراً واسعاً لصور مزيفة غير لائقة تم إنشاؤها بواسطة غروك، استهدفت البالغين وحتى القاصرين. وتفاقم الوضع بعد إضافة ميزة "التحرير" التي سمحت للمستخدمين بتعديل صور الأشخاص الحقيقيين وتغيير ملابسهم دون موافقتهم.
- أظهرت التحليلات أن الروبوت كان يولد حوالي 6,700 صورة ذات إيحاءات غير لائقة في الساعة الواحدة خلال فترة رصد استمرت 24 ساعة.
- استجابت الأداة لطلبات المستخدمين بوضع أشخاص في ملابس غير محتشمة أو أوضاع مخلة.
تحقيقات دولية وحظر شامل
أدى هذا الانفلات إلى ردود فعل دولية غاضبة. فقد تعهدت حكومات في فرنسا والهند بفتح تحقيقات، بينما دعا حاكم كاليفورنيا جافين نيوسوم المدعي العام للتحقيق مع شركة xAI. وفي المملكة المتحدة، تدرس الجهات التنظيمية ما إذا كانت هذه الممارسات تنتهك قانون السلامة عبر الإنترنت.
وصل الأمر إلى حد الحظر الكامل، حيث قامت كل من ماليزيا وإندونيسيا بحجب الوصول إلى خدمة غروك بسبب المخاوف المتعلقة بالمحتوى.
فشل القيود التقنية
في محاولة لاحتواء الأزمة، أصدر فريق السلامة في "إكس" بياناً أكد فيه تطبيق إجراءات تقنية لمنع تعديل صور الأشخاص الحقيقيين بملابس مكشوفة، وحصر ميزات توليد الصور للمشتركين المدفوعين فقط.
ومع ذلك، كشفت الاختبارات الصحفية أن هذه القيود سهلة التجاوز. فبينما تم حظر كلمات مباشرة مثل "بيكيني"، استمر الروبوت في الاستجابة لمطالبات أخرى تؤدي لنفس النتائج المسيئة خلال أقل من دقيقة. وهذا يضع غروك في موقف حرج مقارنة بمنافسيه مثل ChatGPT من OpenAI وCopilot من مايكروسوفت، اللذين يمتلكان ضوابط صارمة ترفض إنشاء صور مسيئة للشخصيات العامة أو الأفراد.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!