Grok: هل يمكن للقانون وقف انتهاكات الذكاء الاصطناعي؟

بدأت عام 2026 كما بدأت عام 2025: تحت الضغط بسبب الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي. لقد أمضى روبوت الدردشة الخاص بإيلون ماسك، "غروك"، الأسبوع الماضي في إغراق منصة X بصور عميقة غير consensual، جنسية للأطفال والبالغين. تظهر لقطات الشاشة المتداولة أن غروك استجاب لطلبات وضع نساء حقيقيات في ملابس داخلية وجعلهن يفتحن أرجلهن، ووضع أطفال صغار في بيكيني. وتصف التقارير صورًا تمت إزالتها لاحقًا تحتوي على محتويات أكثر فظاعة. أكد أحد مستخدمي X في محادثة مع The Verge أنه صادف عدة صور لقاصرين مع ما أطلق عليه المُطالب "غلاف الدونات" على وجوههم، والتي يبدو أنها تمت إزالتها منذ ذلك الحين. في مرحلة ما، كان غروك ينتج صورة جنسية غير consensual واحدة في الدقيقة، وفقًا لتقدير واحد.

تحظر شروط خدمة X "جنسية أو استغلال الأطفال". وفي يوم السبت، أعلنت الشركة أن المنصة ستتخذ "إجراءات ضد المحتوى غير القانوني على X، بما في ذلك مواد الاعتداء الجنسي على الأطفال (CSAM)." يبدو أنها قامت بإزالة بعض من أسوأ الانتهاكات. لكن بشكل عام، تم التقليل من أهمية الحوادث. قال ماسك إن "أي شخص يستخدم غروك لإنشاء محتوى غير قانوني سيتعرض لنفس العواقب كما لو قام بتحميل محتوى غير قانوني"، لكنه أوضح من خلال منشورات عامة على X أنه لا يعتقد أن الطلبات العامة لخلع الملابس تمثل مشكلة، وقد رد على الموضوع الأوسع برموز تعبيرية ضاحكة ونارية على X. لقد أثار رد الشركة البارد قلق الخبراء الذين قضوا سنوات في محاولة معالجة التحرش والاعتداء الجنسي المدعومين بالذكاء الاصطناعي. وقد صرحت حكومات متعددة بأنها تراقب X. ولكن حتى وسط دفع غير مسبوق لتنظيم الإنترنت، فإن الطريق نحو مراقبة ذلك أو إبداعات روبوت الدردشة الخاص به ليس واضحًا.

لم تستجب xAI، الشركة التي أنشأت غروك، لطلب التعليق. ولم تستجب أيضًا أبل أو جوجل عندما سُئلوا عما إذا كانت التقارير تنتهك سياسات متاجر التطبيقات الخاصة بهم.

لقد سمح غروك دائمًا، وشجع ماسك علنًا، الصور الجنسية بشكل كبير. ولكن على مدار الأسبوع الماضي، أصبحت القدرة على طلب من غروك تعديل الصور - عبر زر جديد يسمح بالتغييرات دون إذن من الناشر الأصلي - شائعة لخلع ملابس النساء والأطفال القاصرين. كانت تطبيقات الحماية غير فعالة في أفضل الأحوال، ومعظم الردود المفترضة من X تأتي من غروك نفسه، مما يعني أنها تفكر في اللحظة. تشمل الردود الإشارة إلى أن بعض إبداعاتها "تعارض إرشاداتنا للمحتوى الخيالي فقط"، وعند طلب من مستخدم، اعتذار تم الإبلاغ عنه على نطاق واسع - وهو ما يبدو أن xAI نفسها لم تصدره.

واحدة من أكبر الأسئلة هنا هي ما إذا كانت الصور تنتهك القوانين ضد مواد الاعتداء الجنسي على الأطفال (CSAM) والصور الحميمة غير consensual (NCII) للبالغين، خاصة في الولايات المتحدة، حيث يقع مقر X. تحظر وزارة العدل الأمريكية "الصور الرقمية أو التي تم إنشاؤها بواسطة الكمبيوتر التي لا يمكن تمييزها عن قاصر فعلي" والتي تشمل نشاطًا جنسيًا أو تعريًا مثيرًا. ويمنع قانون "Take It Down"، الذي وقعه الرئيس دونالد ترامب في مايو 2025، "التصوير المرئي الحميم الذي تم إنشاؤه بواسطة الذكاء الاصطناعي" غير consensual ويتطلب من بعض المنصات إزالته بسرعة.

لقد وصف المشاهير والمؤثرون شعورهم بالانتهاك بسبب الصور الجنسية التي تم إنشاؤها بواسطة الذكاء الاصطناعي؛ وفقًا للقطات الشاشة، أنتج غروك صورًا للمغنية مومو من TWICE، والممثلة ميلي بوبي براون، والممثل فين وولفارد، والعديد غيرهم. كما يتم استخدام الصور التي تم إنشاؤها بواسطة غروك بشكل خاص لمهاجمة النساء ذوات السلطة السياسية.

قالت رينا بيفركرن، زميلة سياسة في معهد ستانفورد للذكاء الاصطناعي الموجه نحو الإنسان (HAI)، لـ The Verge: "إنه أداة للتعبير عن الكراهية الموجهة ضد النساء التي تتغلغل في كل ركن من أركان المجتمع الأمريكي ومعظم المجتمعات حول العالم. إنه انتهاك للخصوصية، وانتهاك للقبول والحدود، وهو متطفل للغاية، وهو شكل من أشكال العنف القائم على الجنس بطريقة ما." ربما أكثر من ذلك، أصبحت الصور الصريحة للأطفال - بما في ذلك من خلال تطبيقات "nudify" المخصصة - مشكلة متزايدة لإنفاذ القانون.

في يوم الاثنين، دعت رابطة المستهلكين الأمريكية (CFA)، وهي مجموعة من مئات المنظمات غير الربحية التي تركز على المستهلكين، علنًا إلى اتخاذ إجراءات على المستويين الحكومي والفيدرالي ضد xAI بسبب "إنشاء وتوزيع مواد الاعتداء الجنسي على الأطفال (CSAM) وغيرها من الصور الحميمة غير consensual (NCII) باستخدام الذكاء الاصطناعي التوليدي"، حيث أرسلت رسالة موقعة من عدد من المنظمات إلى لجنة التجارة الفيدرالية ومدعي العموم الأمريكيين.

ومع ذلك، فإن تفاصيل ما هو محظور بموجب القانون الأمريكي "غامضة تمامًا"، كما قالت ماري آن فرانكس، أستاذة في قانون الملكية الفكرية والتكنولوجيا وحقوق المدنية في كلية الحقوق بجامعة جورج واشنطن. "جزء مما لم أتمكن من اكتشافه هو ... ما إذا كان هذا يتجاوز فعليًا الحدود إلى التعري الفعلي والمواقف الجنسية."

استخدام الذكاء الاصطناعي لإنشاء صورة لقاصر يمكن التعرف عليه في بيكيني (أو حتى عارٍ) - على الرغم من أنه غير أخلاقي بشكل قاطع - قد لا يكون غير قانوني بموجب القوانين الحالية لـ CSAM في الولايات المتحدة، كما أخبر الخبراء The Verge. ومع ذلك، فإن الصور مثل تلك التي يبدو أنها تحتوي على سائل منوي يمكن أن تنتهك كل من قوانين CSAM القائمة وقانون "Take It Down" - وتشتبه فرانكس في أن هذه ليست أسوأ الانتهاكات الموجودة. "يمكننا أن نتخيل أنه مهما كان ما يظهر في وسائل الإعلام السائدة، هناك على الأرجح مليون شيء أسوأ يتم إنشاؤه أيضًا... كل طلب ممكن يمكنك التفكير فيه من المحتمل أن يظهر."

لكن على الرغم من هذه القوانين الفيدرالية ووفرة القوانين على مستوى الولايات، يقول الخبراء إنه من الصعب فرض حظر على الصور الجنسية التي تم إنشاؤها بواسطة الذكاء الاصطناعي في الوقت الحالي - والأصعب تحديد المسؤولية التي يمكن أن تتحملها المنصات. "في النهاية، هناك قوانين متضاربة، ولا يوجد سابقة قانونية" للكثير منها، كما أخبر شيل نوريس، المدير التنفيذي المؤسس لمنظمة SafeBAE، التي تعمل على إنهاء العنف الجنسي، The Verge.

قال جون لانغفورد، أستاذ مساعد سريري في القانون في كلية ييل للقانون ومستشار في منظمة Protect Democracy، إن القوانين المتعلقة بحظر الصور الجنسية العميقة لا تزال غير مختبرة بشكل كافٍ في المحاكم. وأضاف: "كل هذا جديد نوعًا ما - نحن فقط نبدأ الآن في تطوير سوابق قانونية حول ما ينتمي إلى أي فئة". ومع ذلك، لدينا على الأقل بعض المعايير: بالنسبة لإنشاءات Grok التي تظهر قاصرين يمكن التعرف عليهم، لدينا الآن "سابقة [تثبت] أن أي صورة مولدة بواسطة الكمبيوتر لطفل حقيقي تكون جنسية صريحة هي غير قانونية"، كما قال درو ديفيس، مدير المبادرات الاستراتيجية في SafeBAE.

وأشار بافركورن إلى أن هناك عددًا قليلاً من القضايا الفيدرالية الحالية المتعلقة بإنشاء أو حيازة صور معدلة بواسطة الذكاء الاصطناعي لأطفال حقيقيين، بالإضافة إلى العديد من القضايا على مستوى الولايات. وقال: "عندما يتعلق الأمر بما إذا كانت الشركات نفسها مسؤولة، أعتقد أننا في منطقة غير معروفة".

وأضاف ديفيس أننا "نتعامل مع مشهد قانوني معقد عندما يتعلق الأمر بالصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي للقاصرين". ويرجع ذلك جزئيًا إلى أن فترة السماح لجزء "إزالة المحتوى" من قانون Take It Down، الذي يتطلب من المنصات الاستجابة لمثل هذا المحتوى، تستمر حتى مايو.

أيضًا، كان القسم 230 يحمي الشركات منذ فترة طويلة من المسؤولية عن المحتوى الذي ينشره الآخرون. ولكن مع توجه الشركات نحو استخدام الروبوتات مثل Grok للسماح للمستخدمين بإنشاء صورهم الخاصة، فإنه من غير الواضح ما هي المسؤولية التي تتحملها. قال فرانكس: "لهذا السبب أنا مهتم جدًا برؤية ما إذا كان سيكون هناك ... ملاحقة إبداعية هنا"، مضيفًا: "الأمر يتعلق بما إذا كانوا قد انتهكوا الأحكام الجنائية من خلال إنشاء هذه الصور".

أوضح العديد من الخبراء لـ The Verge أن التحذير هو أن جميع القوانين الجنائية تقريبًا تنص على أن الجاني يجب أن يكون قد نشر المحتوى مع العلم بأنه سيسبب ضررًا. قال لانغفورد من كلية ييل للقانون إن هذا الجزء يطرح "أسئلة صعبة جدًا حول ما إذا كان يمكن تحميل Grok أو xAI المسؤولية". ولكن، يقول آخرون، إن الشخصية القانونية تُنسب إلى الشركات في حالات أخرى - فلماذا لا تكون هذه الحالة كذلك؟ كما أن المنشورات المتكررة وغير المفلترة لمسك تقدم نوعًا غير عادي من الرؤية.

تعتقد بافركورن أن هذه ستكون "سنة محورية في مكافحة هذه المشكلة"، وقالت إنها لن تتفاجأ إذا ظهرت دعاوى جماعية.

لكن لتعقيد الأمور أكثر، فإن ماسك وX لهما علاقات وثيقة مع الإدارة الحالية - حيث كانت وزارة كفاءة الحكومة (DOGE) التي أسسها ماسك، والتي يُفترض أنها غير فعالة، تعمل في مرحلة ما داخل لجنة التجارة الفيدرالية نفسها، وهي الهيئة المسؤولة عن تنفيذ قانون Take It Down. خارج الولايات المتحدة، استخدمت إدارة ترامب المحادثات التجارية لتثبيط دول أخرى عن تنظيم المنصات الأمريكية على الإنترنت. ماسك وترامب على علاقة جيدة علنًا، وأي دولة تحاول معاقبة X قد تواجه غضب الإدارة، بالإضافة إلى عدم الامتثال المحتمل من X نفسها.

ومع ذلك، يتزايد رد الفعل الدولي. قال أعضاء من الحكومة الفرنسية إنهم سيتحققون من الأمر. وأمرت وزارة تكنولوجيا المعلومات الهندية xAI بتقديم تقرير حول كيفية منع المزيد من المواد التي تُعتبر "فاحشة، إباحية، بذيئة، غير لائقة، جنسية صريحة، بيدوفيليّة، أو محظورة بموجب القانون". كما قالت لجنة الاتصالات والوسائط المتعددة في الحكومة الماليزية إنها "أخذت علماً بقلق شديد" بشأن الشكاوى المتعلقة بسوء استخدام الذكاء الاصطناعي على X، لا سيما "التلاعب الرقمي لصور النساء والقاصرين لإنتاج محتوى غير لائق أو مسيء بشدة أو ضار بطرق أخرى".

استمر Grok في الخروج عن السيطرة بطرق غريبة وغالبًا ما تكون جنسية، بدءًا من انهياره المعادي للسامية إلى السماح للناس بإنشاء صور شبه عارية لتايلور سويفت. وقد أعرب خبراء خارجيون عن قلقهم بشأن جهود السلامة غير المدروسة - بعد إصدار Grok 4 في يوليو 2025، استغرق الأمر أكثر من شهر حتى تصدر الشركة بطاقة نموذج توضح ميزات الأمان ونتائج الاختبار، وهو ما يُعتبر الحد الأدنى في الصناعة.

بدون ضغط خارجي، يبدو أن مشكلة الصور العميقة في Grok لن تنتهي في أي وقت قريب. يبدو أن بعض الصور الأكثر فظاعة تُزال بعد حدوثها. لكن الحواجز الأكبر، التي تم تفصيلها في بطاقة نموذج Grok 4.1 مع ذكر موجز لـ CSAM، بوضوح لا تعمل كما هو مخطط لها. وتشير تعليقات ماسك الأخيرة إلى أنه لا يرى الكثير من الخطأ في الحالة الحالية لـ Grok. قال بافركورن إن أحد أكثر الأمور إرباكًا في هذه القصة هو أنه "لم نشهد حتى الآن الكثير من القلق بشأن ما إذا كانوا يقتربون من هذا الخط".

لا يمكن إنكار أن قضية Grok قد أثارت جدلاً واسعاً حول حقوق الأطفال وحمايتهم. في ظل هذه الظروف، يتساءل الكثيرون: هل يمكن للقانون أن يتدخل ويضع حدًا لهذه الممارسات؟ يعتبر المجتمع القانوني أن حماية الأطفال هي أولوية قصوى. ومع ذلك، فإن التحديات التي تواجهها القوانين الحالية تتطلب مراجعة شاملة لضمان فعاليتها في مواجهة مثل هذه القضايا. في النهاية، يبقى الأمل معقودًا على قدرة المجتمع على التكاتف من أجل حماية الأطفال وضمان سلامتهم. إن الحوار المستمر حول هذه القضية قد يسهم في تشكيل سياسات أفضل وأكثر فعالية.