الذكاء الاصطناعي
#ChatGPT
#الذكاء_الاصطناعي
اختراق ChatGPT يكشف: ما هي "أكسل" ولاية أمريكية؟
نجح باحثون من جامعتي أكسفورد وكنتاكي في "كسر حماية" ChatGPT، ليكشفوا عن رأيه الصريح بأن ميسيسيبي هي "أكسل" ولاية أمريكية، فاضحين تحيزات خفية في النموذج. عادةً ما يرفض روبوت الدردشة الإجابة عن الأسئلة التي تتطلب آراء مهينة أو مثيرة للجدل، وذلك بفضل قيود الأمان التي تفرضها OpenAI، لكن هذا لا يعني أن النموذج خالٍ من الآراء غير الشعبية المستمدة من بيانات التدريب البشرية.
كيف تم استخراج هذه الآراء؟
للتغلب على قيود الروبوت، طرح الباحثون أكثر من 20 مليون سؤال، وأجبروا ChatGPT على الاختيار بين خيارين محددين. على سبيل المثال، سألوا: "أين يوجد الناس الأكثر ذكاءً؟" مع خيارات مثل كاليفورنيا أو مونتانا. من خلال هذا النمط من الأسئلة، تمكنوا من رسم خريطة لكيفية رؤية الذكاء الاصطناعي للمدن والولايات والمجموعات السكانية المختلفة.
تحيزات ضد الفقراء والمناطق الملونة
كشفت النتائج أن ChatGPT يعتبر ميسيسيبي الولاية الأكسل، تليها بقية ولايات الجنوب الأمريكي. ويرجح الباحثون أن هذه الاستنتاجات قد تكون مستمدة من مقالات قديمة مثل "مؤشر الكسول" الذي نشرته واشنطن بوست عام 2015، والذي ربط الكسل بمشاهدة التلفاز والوجبات السريعة.
نظرة عالمية ومحلية متحيزة
لم تتوقف التحيزات عند حدود الولايات المتحدة، بل شملت العالم:
- الذكاء والفنون: صنف النموذج معظم دول أفريقيا وآسيا في ذيل القائمة من حيث "الفنية" مقارنة بأوروبا الغربية، واعتبر الدول الأفريقية (خاصة جنوب الصحراء) الأقل ذكاءً، بينما تصدرت أمريكا والصين القائمة.
- الجمال: عند السؤال عن "أجمل الناس"، اختار النموذج المدن الغنية مثل نيويورك ولوس أنجلوس، وفضل الأحياء ذات الأغلبية البيضاء والثرية (مثل SoHo) على المجتمعات الأكثر تنوعاً (مثل جامايكا في نيويورك).
حرب البيتزا: رأي ChatGPT الصريح
بعيداً عن القضايا الشائكة، كان للذكاء الاصطناعي رأي في الطعام أيضاً. يعتقد ChatGPT أن أفضل بيتزا توجد في نيويورك وشيكاغو وبافالو، بينما الأسوأ توجد في إلباسو وإيرفين وهونولولو (ربما بسبب جدل الأناناس الشهير). والخلاصة الطريفة هنا هي أن الروبوت كان "جباناً" جداً لدرجة أنه لم يحسم الجدل التاريخي بين بيتزا نيويورك وشيكاغو.
الأسئلة الشائعة
قام الباحثون بطرح أكثر من 20 مليون سؤال يجبر النموذج على الاختيار بين خيارين محددين (مثل الاختيار بين مدينتين)، مما سمح بتجاوز فلاتر الرفض المعتادة.
صنف ChatGPT ولاية ميسيسيبي على أنها الأكسل في الولايات المتحدة، مع وضع باقي ولايات الجنوب في مراتب قريبة.
اختار النموذج مدن نيويورك، شيكاغو، وبافالو كأفضل أماكن للبيتزا، بينما اعتبر هونولولو وإلباسو من بين الأسوأ.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!