الذكاء الاصطناعي
#OpenAI
#ChatGPT
ChatGPT: تحذيرات عنف لم تدفع OpenAI للتبليغ قبل إطلاق نار
كشفت تقارير جديدة عن أن [[OpenAI]] لم تبلغ سلطات إنفاذ القانون بتحذيرات خطيرة تتعلق بسيناريوهات عنف ناقشتها المشتبه بها في حادث إطلاق نار جماعي مروع وقع في [[Tumbler]] بـ [[كندا]]. هذه المعلومات أثارت جدلاً واسعاً حول مسؤولية شركات الذكاء الاصطناعي في التعامل مع التهديدات المحتملة.
تحذيرات مبكرة من داخل OpenAI
قبل أشهر من وقوع حادث إطلاق النار، وتحديداً في شهر يونيو الماضي، كانت المشتبه بها، جيسي فان روتسيلار، تجري محادثات مع [[ChatGPT]] تضمنت أوصافاً لعنف باستخدام الأسلحة. هذه المحادثات أدت إلى تفعيل نظام المراجعة الآلي للروبوت، مما أثار قلق العديد من موظفي OpenAI.
أعرب الموظفون عن مخاوفهم من أن تكون هذه المنشورات مؤشراً على عنف وشيك في العالم الحقيقي، وحثوا قيادة الشركة على الاتصال بالسلطات. ومع ذلك، قررت الشركة في النهاية عدم إبلاغ جهات إنفاذ القانون في ذلك الوقت.
قرار عدم التبليغ: توازن بين الخصوصية والأمان
صرحت كايلا وود، المتحدثة باسم OpenAI، لموقع The Verge بأن الشركة نظرت في إحالة الحساب إلى سلطات إنفاذ القانون، لكنها قررت في النهاية أن المحادثات لا تشكل "خطراً وشيكاً وموثوقاً به" لإلحاق الأذى بالآخرين. وأوضحت وود أن مراجعة سجلات المحادثات لم تشر إلى وجود تخطيط نشط أو وشيك للعنف. وقامت الشركة بحظر حساب روتسيلار، لكنها لم تتخذ أي إجراءات احترازية إضافية في ذلك الوقت.
المأساة التي وقعت والتعاون اللاحق
في العاشر من فبراير، وقع حادث إطلاق نار جماعي في مدرسة Tumbler Ridge الثانوية، أسفر عن مقتل تسعة أشخاص وإصابة 27 آخرين، بما في ذلك روتسيلار نفسها. تُعد هذه الحادثة هي الأكثر دموية في كندا منذ عام 2020. عُثر على روتسيلار ميتة في مسرح الحادث، ويبدو أنها توفيت متأثرة بجروح ناجمة عن طلق ناري ذاتي.
بعد وقوع المأساة، قالت كايلا وود: "قلوبنا مع جميع المتضررين من مأساة Tumbler Ridge. لقد تواصلنا بشكل استباقي مع الشرطة الكندية الملكية (RCMP) بمعلومات عن الفرد واستخدامه لـ ChatGPT، وسنواصل دعم تحقيقهم".
تساؤلات حول أخلاقيات الذكاء الاصطناعي
قد يبدو قرار عدم إبلاغ سلطات إنفاذ القانون سابقاً خاطئاً بأثر رجعي. ومع ذلك، أكدت وود أن هدف OpenAI هو تحقيق التوازن بين خصوصية المستخدم والسلامة العامة، وتجنب التسبب في ضرر غير مقصود من خلال الاستخدام المفرط لإحالات سلطات إنفاذ القانون. تثير هذه الحادثة نقاشاً مهماً حول الحدود الفاصلة بين حماية خصوصية المستخدمين ومسؤولية شركات الذكاء الاصطناعي في منع العنف.
الأسئلة الشائعة
تلقت OpenAI محادثات من المشتبه بها جيسي فان روتسيلار مع ChatGPT تضمنت أوصافاً لسيناريوهات عنف باستخدام الأسلحة، مما أثار قلق موظفي الشركة.
قررت OpenAI عدم التبليغ بناءً على تقييمها بأن الخطر لم يكن "وشيكاً وموثوقاً به"، مع التأكيد على السعي للموازنة بين خصوصية المستخدم والسلامة العامة.
أسفر حادث إطلاق النار في مدرسة Tumbler Ridge الثانوية عن مقتل تسعة أشخاص وإصابة 27 آخرين، بما في ذلك المشتبه بها التي توفيت بطلق ناري ذاتي.
بعد وقوع الحادث، تواصلت OpenAI استباقياً مع الشرطة الكندية الملكية وقدمت معلومات عن الفرد واستخدامه لـ ChatGPT، مؤكدة دعمها للتحقيق.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!