الذكاء الاصطناعي
#OpenAI
#ChatGPT
OpenAI لم تبلغ: رسائل ChatGPT كشفت نية منفذة إطلاق نار
كشفت تقارير حديثة أن شركة الذكاء الاصطناعي OpenAI حظرت حساب مستخدمة في يونيو من العام الماضي، وهي المشتبه بها الرئيسية في إحدى أسوأ حوادث إطلاق النار الجماعي في تاريخ كندا. جاء الحظر بسبب انتهاكها سياسة استخدام أداة ChatGPT، لكن الشركة لم تقم بإبلاغ الشرطة الكندية حينها.
أوضحت OpenAI أن أنظمتها المعنية بفحص سوء الاستخدام رصدت حساب المشتبه بها، جيسي فان روتسيلار، قبل نحو ثمانية أشهر من الحادثة. كانت فان روتسيلار تصف سيناريوهات عنيفة باستخدام الأسلحة النارية عبر ChatGPT على مدار عدة أيام، مما أثار قلقاً داخلياً لدى موظفي الشركة.
تفيد الشرطة الكندية بأن الشابة البالغة من العمر 18 عاماً قتلت ثمانية أشخاص وأصابت حوالي 25 آخرين، قبل أن تنهي حياتها في بلدة تومبلر ريدج غرب كندا مطلع هذا الشهر. هذه الأحداث المأساوية دفعت للتدقيق في قرار OpenAI بعدم الإبلاغ عن سلوك المشتبه بها.
نقاش داخلي وقرار عدم الإبلاغ
أثير نقاش داخلي مطول بين حوالي عشرة موظفين في OpenAI حول ضرورة إبلاغ سلطات إنفاذ القانون بتفاعلات فان روتسيلار. بينما رأى البعض أن كتاباتها كانت تشير إلى احتمال وقوع عنف حقيقي في العالم الواقعي، وحثوا القادة على إبلاغ السلطات الكندية، قرر مسؤولو الشركة في نهاية المطاف عدم الاتصال بالشرطة.
تبرير OpenAI ومعايير الإبلاغ
بررت متحدثة باسم OpenAI هذا القرار بالقول إن نشاط فان روتسيلار لم يستوفِ معايير الإبلاغ إلى سلطات إنفاذ القانون. وأوضحت أن هذه المعايير تتطلب أن يشكل المستخدم خطراً حقيقياً ومباشراً بإلحاق أذى جسدي خطير بالآخرين. هذا التبرير يفتح باباً واسعاً للنقاش حول أخلاقيات الذكاء الاصطناعي ومسؤولية الشركات في التعامل مع المحتوى العنيف والتهديدات المحتملة.
الأسئلة الشائعة
تواجه OpenAI جدلاً بسبب عدم إبلاغها الشرطة عن رسائل عنيفة أرسلتها مستخدمة عبر ChatGPT، والتي تبين لاحقاً أنها منفذة إطلاق نار جماعي في كندا.
بررت OpenAI قرارها بأن نشاط المشتبه بها لم يستوفِ معايير الإبلاغ، والتي تتطلب وجود خطر حقيقي ومباشر بإلحاق أذى جسدي خطير بالآخرين.
تسببت حادثة إطلاق النار في مقتل ثمانية أشخاص وإصابة حوالي 25 آخرين، قبل أن تنهي المشتبه بها حياتها.
تثير القضية تساؤلات حول مسؤولية شركات الذكاء الاصطناعي في مراقبة المحتوى الخطير واتخاذ إجراءات وقائية، والحدود الفاصلة بين حرية التعبير والسلامة العامة.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!