الذكاء الاصطناعي
#الذكاء_الاصطناعي
#Grok
تحقيق أوروبي: Grok يولد 23,000 صورة مسيئة في 11 يوماً
فتح الاتحاد الأوروبي تحقيقاً موسعاً بشأن روبوت Grok للدردشة، بعد تقارير صادمة كشفت عن توليده ما يقدر بـ 23,000 صورة تتضمن مواد اعتداء جنسي على الأطفال (CSAM) خلال فترة قصيرة لا تتجاوز 11 يوماً.
أرقام صادمة عن محتوى Grok
مثل معظم روبوتات الدردشة المدعومة بالذكاء الاصطناعي، يمتلك Grok القدرة على إنشاء صور من خلال الأوامر النصية عبر التطبيق أو الويب أو منصة X. ولكن على عكس الخدمات المنافسة، يتمتع هذا النموذج بضوابط أمان فضفاضة للغاية، مما أدى إلى توليد صور شبه عارية لأشخاص حقيقيين، بما في ذلك الأطفال، دون موافقتهم.
ووفقاً لمركز مكافحة الكراهية الرقمية (CCDH)، استندت هذه التقديرات إلى عينة عشوائية مكونة من 20,000 صورة تم توليدها بواسطة Grok في الفترة بين 29 ديسمبر و9 يناير. وقام المركز باستقراء تقدير أوسع بناءً على 4.6 مليون صورة أنتجها النموذج خلال تلك الفترة.
معدلات توليد الصور المسيئة
أشارت البيانات إلى أنه خلال فترة الـ 11 يوماً، أنتج Grok ما يقدر بـ 3 ملايين صورة ذات طابع جنسي، من بينها 23,000 صورة للأطفال. وبلغة الأرقام، كان الروبوت يولد حوالي 190 صورة جنسية في الدقيقة الواحدة، وصورة جنسية للأطفال مرة واحدة كل 41 ثانية.
تحركات دولية وضغوط على آبل وجوجل
في وقت سابق من هذا الشهر، طلب ثلاثة أعضاء في مجلس الشيوخ الأمريكي من تيم كوك، الرئيس التنفيذي لشركة آبل، وجوجل إزالة تطبيقي X وGrok مؤقتاً من متاجر التطبيقات بسبب "توليد محتوى مقزز"، إلا أن الشركتين لم تتخذا أي إجراء حتى الآن. وفي حين قامت دولتان بحظر التطبيق بالفعل، فُتحت تحقيقات مماثلة في كل من كاليفورنيا والمملكة المتحدة.
تفاصيل التحقيق الأوروبي والعقوبات المحتملة
أعلن الاتحاد الأوروبي عن التحقيق الجديد بموجب قانون الخدمات الرقمية (DSA)، لتقييم ما إذا كانت شركة xAI قد فشلت في تخفيف المخاطر المرتبطة بنشر أدوات Grok على منصة X. وصرحت هينا فيركونين، مسؤولة التكنولوجيا في الاتحاد الأوروبي، بأن "التزييف العميق الجنسي غير التوافقي للنساء والأطفال هو شكل عنيف وغير مقبول من الإهانة".
وفي حال ثبوت انتهاك الشركة لقانون الخدمات الرقمية، فإنها قد تواجه غرامات مالية ضخمة تصل إلى 6% من إيراداتها السنوية العالمية.
الأسئلة الشائعة
بسبب تقارير تفيد بتوليد الروبوت لآلاف الصور المسيئة للأطفال ومحتوى جنسي غير توافقي، مما قد يخالف قانون الخدمات الرقمية.
تشير التقديرات إلى توليد حوالي 23,000 صورة مسيئة للأطفال و3 ملايين صورة جنسية خلال 11 يوماً فقط.
إذا ثبت انتهاك الشركة لقانون الخدمات الرقمية (DSA)، فقد تفرض عليها غرامة تصل إلى 6% من إيراداتها السنوية العالمية.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!