الذكاء الاصطناعي
#الذكاء_الاصطناعي
#Grok
أزمة Grok: صور غير لائقة للأطفال وتجاهل شركات الدفع
لطالما كانت شركات بطاقات الائتمان ووسائل الدفع صارمة للغاية في سياساتها تجاه المواد التي تنطوي على استغلال جنسي للأطفال، لكن يبدو أن الوضع اختلف مع نموذج Grok التابع للملياردير إيلون ماسك عبر منصة X. تشير التقارير إلى تردد القطاع المالي في اتخاذ إجراءات حازمة رغم اكتشاف قدرة الذكاء الاصطناعي على توليد صور عارية للأطفال.
أرقام صادمة: صورة كل 41 ثانية
كشف مركز مكافحة الكراهية الرقمية (CCDH) عن نتائج مقلقة بعد تحليل عينة مكونة من 20,000 صورة تم إنشاؤها بواسطة Grok في الفترة بين 29 ديسمبر و8 يناير. وجد المركز 101 صورة جنسية لأطفال ضمن العينة، وبناءً على ذلك، قدّر المركز أنه تم إنتاج حوالي 23,000 صورة جنسية لأطفال خلال تلك الفترة الزمنية القصيرة.
وتشير التقديرات إلى أنه خلال هذه الأيام الأحد عشر، تم إنتاج صورة جنسية لطفل بمعدل صورة واحدة كل 41 ثانية. ورغم أن ليس كل الصور التي أنتجها Grok قد تكون غير قانونية بالضرورة، إلا أن التقارير تؤكد أن بعضها يتجاوز الخطوط الحمراء بوضوح.
فشل قيود الأمان وتضارب المعلومات
هناك حالة من الارتباك الكبير حول ما هو مسموح به فعلياً على Grok. فقد قدم النموذج ردوداً مضللة، مدعياً في وقت ما أنه قصر توليد الصور على المشتركين الذين يدفعون رسوماً، بينما كان لا يزال يسمح بالوصول المباشر للمستخدمين المجانيين على منصة X.
ورغم ادعاء إيلون ماسك بوجود "حواجز حماية" جديدة تمنع Grok من تعرية الأشخاص، أظهرت اختبارات موقع The Verge عدم دقة هذا الادعاء. فباستخدام حساب مجاني، تمكن الموقع من توليد صور "تزييف عميق" (Deepfake) لأشخاص حقيقيين بملابس فاضحة وفي وضعيات موحية جنسياً، وذلك بعد الموعد المفترض لتفعيل القواعد الجديدة.
موقف شركات الدفع والأموال المتداولة
تاريخياً، كانت شركات الدفع مثل فيزا وماستركارد سباقة في قطع الوصول عن المواقع التي يُعتقد أنها تحتوي على مواد استغلال الأطفال. ومع ذلك، لم تتخذ هذه المؤسسات المالية حتى الآن إجراءات لتقييد منصة X.
ويبدو أن منصة X قامت بتقييد ميزات تعديل الصور في Grok جزئياً للمشتركين المدفوعين، مما يعني أنه من المرجح جداً أن هناك أموالاً يتم تداولها بالفعل مقابل الحصول على بعض هذه الصور المرفوضة، وهو ما يضع شركات المعالجة المالية في موقف حرج.
الأسئلة الشائعة
يواجه النموذج انتقادات بسبب قدرته على توليد صور جنسية لأطفال وصور تزييف عميق لأشخاص حقيقيين رغم ادعاءات وجود قيود أمان.
قدر مركز مكافحة الكراهية الرقمية إنتاج حوالي 23,000 صورة جنسية لأطفال خلال فترة 11 يوماً فقط.
لا، رغم سياستها الصارمة تاريخياً ضد هذا النوع من المحتوى، لم تقم شركات الدفع بتقييد منصة X حتى الآن.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!