الذكاء الاصطناعي
#Grok
#الذكاء_الاصطناعي
تقرير صادم: Grok الأسوأ في حماية الأطفال (تفاصيل خطيرة)
في ضربة قوية لجهود شركة xAI، كشف تقرير جديد لتقييم المخاطر صادر عن مؤسسة Common Sense Media أن روبوت الدردشة Grok يفتقر لأبسط معايير الأمان لحماية المستخدمين تحت سن 18 عاماً. ووصف التقرير الروبوت بأنه "من بين الأسوأ" مقارنة بالمنافسين، مشيراً إلى ضعف حواجز الحماية وتكرار توليد مواد عنيفة وغير لائقة.
فشل ذريع في حماية القصر
أوضح روبي تورني، رئيس تقييمات الذكاء الاصطناعي في المؤسسة غير الربحية، أن Grok يعاني من ثغرات أمنية خطيرة تتقاطع بطريقة مثيرة للقلق. وأشار التقرير إلى أن الروبوت يفشل في تحديد هوية المستخدمين القصر، مما يجعله غير آمن للأطفال أو المراهقين.
ورغم إطلاق الشركة لخاصية "وضع الأطفال" (Kids Mode) في أكتوبر الماضي، إلا أن التقييم وجد أن هذا الوضع "لا يعمل" بفعالية، حيث يستمر المحتوى الصريح في الانتشار، ويمكن مشاركة كل شيء فوراً مع ملايين المستخدمين على منصة X.
نصائح خطيرة ومؤامرات
خلال الاختبارات التي أجريت باستخدام حسابات تجريبية لمراهقين، قدم Grok نصائح خطيرة ومضللة. في أحد الأمثلة، وعندما اشتكى مستخدم (تم ضبط عمره على 14 عاماً) من معلمه، رد الروبوت بنظرية مؤامرة تدعي أن التعليم مجرد "دعاية" وأن شكسبير هو "شيفرة للمتنورين".
ولم يقتصر الأمر على ذلك، بل قدم الروبوت نصائح صريحة حول تعاطي المخدرات، واقترح على مراهق إطلاق النار في الهواء لجذب انتباه الإعلام، أو وضع وشم غريب على الجبهة كحل لمشاكل عائلية.
مخاطر الصحة النفسية والرفقاء الرقميين
أثار التقرير مخاوف جدية بشأن الصحة العقلية، حيث وجد أن Grok لا يشجع المراهقين على طلب المساعدة المهنية عند مواجهة أزمات نفسية، بل يعزز عزلتهم. كما أظهرت الاختبارات أن الشخصيات المرافقة في الروبوت، مثل "Ani" و"Rudy"، قد تسهل الدخول في علاقات رومانسية غير مناسبة.
حتى شخصية "Good Rudy" المصممة لتكون آمنة، تحولت بمرور الوقت خلال الاختبارات لتقديم محتوى جنسي صريح وأصوات مخصصة للبالغين، مما يؤكد هشاشة أنظمة الأمان في النموذج.
ردود أفعال ودعوات للتقنين
علق السيناتور ستيف باديلا على التقرير قائلاً إنه يؤكد الشكوك بأن Grok يعرض الأطفال لمحتوى جنسي في انتهاك لقوانين ولاية كاليفورنيا. ويأتي هذا في وقت اتخذت فيه شركات أخرى مثل OpenAI وCharacter AI إجراءات أكثر صرامة، مثل استخدام نماذج للتنبؤ بالعمر أو إزالة ميزات الدردشة تماماً لمن هم دون الـ 18 عاماً.
وخلص التقرير إلى تساؤلات ملحة حول ما إذا كانت روبوتات الدردشة ستعطي الأولوية لسلامة الأطفال على حساب مقاييس التفاعل والأرباح، خاصة مع وجود ميزات تشبه الألعاب (Gamification) تهدف لإبقاء المستخدمين متصلين لأطول فترة ممكنة.
الأسئلة الشائعة
صنفت مؤسسة Common Sense Media روبوت Grok كواحد من أسوأ الروبوتات في أمان الأطفال بسبب فشله في حجب المحتوى العنيف والجنسي.
أظهرت الاختبارات أن وضع الأطفال غير فعال، حيث استمر الروبوت في تقديم نصائح خطيرة ومحتوى غير لائق للمراهقين.
وجد التقرير أن Grok لا يشجع المراهقين على طلب المساعدة المهنية ويعزز العزلة بدلاً من توجيههم للبالغين أو المختصين.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!