الذكاء الاصطناعي
#غروك
#الذكاء_الاصطناعي
مطالبات بحظر غروك في الحكومة الأميركية (أسباب خطيرة)
تواجه شركة xAI ضغوطاً متزايدة بعد مطالبة مجموعة من المنظمات غير الربحية الحكومة الأميركية بتعليق فوري لاستخدام روبوت الدردشة "غروك" داخل الوكالات الفيدرالية، وتحديداً في وزارة الدفاع (البنتاغون).
صور صادمة وانتهاكات للخصوصية
جاءت هذه الدعوات العاجلة في رسالة مفتوحة، استجابة لسلسلة من السلوكيات المقلقة المرتبطة بالنموذج اللغوي. كان أخطرها قدرة النموذج على توليد صور جنسية غير توافقية لنساء حقيقيات، وفي بعض الحالات لأطفال، استناداً إلى صور تم رفعها من قبل مستخدمين على منصة "إكس".
ووفقاً لتقارير نشرها موقع "تك كرانش"، أظهر "غروك" قدرة على إنتاج آلاف الصور غير اللائقة في الساعة الواحدة، والتي انتشرت لاحقاً عبر منصة التواصل الاجتماعي، مما فجر موجة انتقادات حادة حول معايير الأمان في النموذج.
مخالفة توجيهات البيت الأبيض
أكدت الرسالة أن استمرار الحكومة الفيدرالية في الاعتماد على نظام ذكاء اصطناعي يعاني من "إخفاقات هيكلية" يعد أمراً مقلقاً للغاية. وأشار الموقعون إلى أن تشغيل "غروك" يتعارض بشكل مباشر مع:
- توجيهات السلامة الصادرة عن البيت الأبيض.
- قانون "Take It Down Act" المخصص لمكافحة الانتهاكات الرقمية الجنسية.
عقود حكومية ومخاوف أمنية
تكتسب هذه المطالب أهمية خاصة نظراً للعقود المبرمة بين الشركة والحكومة. فقد وقعت xAI في سبتمبر الماضي اتفاقاً مع إدارة الخدمات العامة (GSA) لبيع خدماتها للوكالات الفيدرالية. كما تشارك الشركة في عقد ضخم مع وزارة الدفاع قد تصل قيمته إلى 200 مليون دولار، إلى جانب منافسين مثل OpenAI وغوغل وأنثروبيك.
وكان وزير الدفاع الأميركي قد أعلن في يناير الماضي عن خطة لضم "غروك" إلى جانب نموذج "جيميني" للعمل داخل شبكة البنتاغون للتعامل مع الوثائق، وهي خطوة حذر خبراء من أنها قد تشكل مخاطرة على الأمن القومي.
سجل حافل بالإخفاقات
لم تكن هذه الحادثة هي الأولى؛ حيث أشار منتقدو النموذج إلى سجل يتضمن توليد خطابات معادية للسامية ومحتوى تمييزي. وقد دفع هذا السلوك دولاً مثل إندونيسيا وماليزيا والفلبين إلى حظر "غروك" مؤقتاً، بينما فتحت جهات تنظيمية في الاتحاد الأوروبي والمملكة المتحدة تحقيقات بشأن انتهاكات الخصوصية.
وفي ختام المطالبات، دعت المنظمات إلى فتح تحقيق رسمي في إخفاقات السلامة، وإعادة تقييم شاملة لمدى التزام "غروك" بالمعايير الحكومية التي تشترط الحيادية والدقة في أنظمة الذكاء الاصطناعي.
الأسئلة الشائعة
بسبب تقارير عن توليده صوراً جنسية غير توافقية لنساء وأطفال ومخالفته لمعايير السلامة وتوجيهات البيت الأبيض.
نعم، أعلن وزير الدفاع في يناير عن ضم غروك للعمل داخل شبكة البنتاغون كجزء من عقد مشترك مع شركات أخرى.
نعم، قامت دول مثل إندونيسيا وماليزيا والفلبين بحظره مؤقتاً، وتجري تحقيقات في الاتحاد الأوروبي والمملكة المتحدة.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!