الذكاء الاصطناعي
#غروك
#الذكاء_الاصطناعي
فضيحة غروك: 3 ملايين صورة جنسية في 11 يوماً فقط
بدأت أزمة التزييف العميق تأخذ منحى خطيراً داخل أروقة شركة "إكس إيه آي" (xAI)، حيث كشفت تحقيقات موسعة عن حجم الكارثة التي تسبب بها روبوت الدردشة "غروك" (Grok) المدمج في منصة "إكس". الأرقام التي ظهرت للعلن مؤخراً تضع علامات استفهام كبيرة حول ضوابط الأمان في تقنيات الذكاء الاصطناعي الحديثة.
أرقام صادمة وصور لقاصرين
في تقرير مشترك بين مركز مكافحة الكراهية الرقمية وصحيفة "نيويورك تايمز"، تم الكشف عن إحصائيات مقلقة للغاية. فقد تمكن روبوت "غروك" من توليد ما يقدر بـ 3 ملايين صورة جنسية خلال فترة قصيرة جداً لا تتجاوز 11 يوماً (بين 29 ديسمبر و8 يناير).
الأمر الأكثر خطورة هو تضمن هذه النتائج لنحو 23,000 صورة يُحتمل أنها تُظهر أطفالاً، وذلك رغم الإجراءات التي أعلنت عنها الشركة سابقاً للحد من الصور المزيفة.
وأشارت صحيفة "نيويورك تايمز" إلى أن تحليل البيانات أظهر أن حوالي 1.8 مليون صورة من أصل 4.4 مليون صورة تم إنشاؤها عبر "غروك" كانت ذات طبيعة جنسية، وشمل بعضها شخصيات عامة ومشهورة.
ثغرات في الأدوات ودور إيلون ماسك
ألقى التقرير الضوء على "أداة التحرير بنقرة واحدة" المتاحة لمستخدمي منصة "إكس"، والتي يبدو أنها كانت البوابة الرئيسية لهذه الفوضى. ووفقاً لاختبارات أجراها مركز مكافحة الكراهية الرقمية، فإن أكثر من نصف الردود الصادرة عن الروبوت تضمنت محتوى جنسياً.
تأثير المشاهير والانتشار الواسع
ربطت التحقيقات بين الارتفاع الحاد في استخدام "غروك" وبين منشورات الملياردير إيلون ماسك، الرئيس التنفيذي للمنصة. حيث ظهر ماسك في صور أنشأها الروبوت وهو يرتدي ملابس بحر نسائية، مما ساهم في الترويج لقدرات الأداة بشكل غير مباشر.
"هذا إساءة استخدام على نطاق الصناعة للنساء والفتيات. كانت هناك أدوات لإزالة الملابس سابقاً، لكنها لم تمتلك أبدًا الانتشار وسهولة الاستخدام أو الاندماج في منصة كبيرة كما فعل إيلون ماسك مع غروك".
- عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية
تحقيقات قانونية ومخاطر مستقبلية
تواجه شركة "إكس إيه آي" حالياً تدقيقاً قانونياً مكثفاً، حيث تخضع لتحقيقات من قبل ولاية كاليفورنيا وعدة حكومات أجنبية. يتركز التحقيق حول دور الشركة في إنتاج صور مفبركة ذات طابع جنسي، خاصة تلك المتعلقة بالقاصرين، مما دفع بعض الدول لحظر المنصة مؤقتاً.
واعترفت منصة "إكس" بوجود المشكلة، مؤكدة أنها تعمل بشكل عاجل على إصلاح الثغرات في إجراءات الحماية، في وقت تستمر فيه تحذيرات خبراء السلامة الرقمية من خطورة الذكاء الاصطناعي التوليدي في زيادة المحتوى غير الرضائي والاستغلال الجنسي.
الأسئلة الشائعة
أنتج روبوت غروك ما يقدر بـ 3 ملايين صورة جنسية خلال فترة 11 يوماً فقط.
نعم، كشفت التقارير عن وجود حوالي 23,000 صورة يُحتمل أنها تظهر أطفالاً أو قاصرين.
أقرت المنصة بوجود المشكلة وصرحت بأنها تعمل بشكل عاجل على إصلاح الثغرات في إجراءات الحماية.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!