الذكاء الاصطناعي
#الذكاء_الاصطناعي
#شات_جي_بي_تي
شات جي بي تي يستعين بموسوعة ماسك المثيرة للجدل (تفاصيل)
في تطور يثير القلق حول مصداقية المعلومات الرقمية، بدأ أحدث نموذج من "شات جي بي تي"، وتحديداً الإصدار GPT-5.2، بالاستشهاد بموسوعة "غروكيبيديا" التابعة لإيلون ماسك كمصدر موثوق في إجاباته على استفسارات متنوعة، مما فتح باب النقاش واسعاً حول مخاطر انتشار المعلومات المضللة عبر منصات الذكاء الاصطناعي الرائدة.
اختبارات تكشف "تسلل" غروكيبيديا
أظهرت اختبارات أجرتها صحيفة "ذا غارديان" نتائج مثيرة للاهتمام، حيث استشهد نموذج GPT-5.2 بموسوعة "غروكيبيديا" تسع مرات كاملة أثناء الرد على أكثر من اثني عشر سؤالاً مختلفاً. ولم تقتصر هذه الاستشهادات على معلومات عامة، بل شملت مواضيع دقيقة وحساسة.
تضمنت الاستفسارات تفاصيل حول الهياكل السياسية في إيران، مثل رواتب قوات "الباسيج" شبه العسكرية، بالإضافة إلى معلومات عن السيرة الذاتية للمؤرخ البريطاني السير ريتشارد إيفانز، الذي كان شاهداً خبيراً في قضية التشهير ضد منكر الهولوكوست ديفيد إيرفينغ. والمثير للقلق أن "شات جي بي تي" كرر معلومات فندتها الصحيفة سابقاً، معتمداً في ذلك على الموسوعة المثيرة للجدل.
ما هي غروكيبيديا ولماذا تثير القلق؟
أُطلقت "غروكيبيديا" في أكتوبر كموسوعة إلكترونية تهدف لمنافسة ويكيبيديا، لكنها تتميز بكونها مُولّدة بالكامل بواسطة الذكاء الاصطناعي. وعلى عكس ويكيبيديا التي تعتمد على التعديل البشري، يقوم نموذج ذكاء اصطناعي في "غروكيبيديا" بكتابة المحتوى والرد على طلبات التعديل دون تدخل بشري مباشر.
واجهت الموسوعة انتقادات حادة لنشرها روايات توصف باليمينية المتطرفة حول أحداث مفصلية، مثل اقتحام الكابيتول في الولايات المتحدة في 6 يناير. ورغم أن "شات جي بي تي" لم يستشهد بالموسوعة عند سؤاله مباشرة عن معلومات مضللة واضحة (مثل تحيز الإعلام ضد ترامب أو خرافات حول الإيدز)، إلا أن بيانات "غروكيبيديا" تسربت في الإجابات عن الموضوعات الأكثر التباساً وغموضاً.
ظاهرة "تسميم" نماذج الذكاء الاصطناعي
لا تقتصر المشكلة على شركة [[OpenAI]] وحدها؛ فقد أشارت تقارير إلى أن نموذج "كلود" من شركة أنثروبيك استعان أيضاً بموسوعة ماسك في مواضيع تتراوح بين إنتاج البترول وأنواع البيرة الاسكتلندية. هذا التوجه يثير مخاوف الخبراء مما يُعرف بـ "تسميم نماذج الذكاء الاصطناعي"، حيث يمكن لجهات خبيثة نشر معلومات مضللة بكثافة لزرع الأكاذيب داخل هذه الأنظمة.
وفي هذا السياق، حذرت نينا يانكوفيتش، الباحثة في مجال المعلومات المضللة، من خطورة هذا الاتجاه. وأشارت إلى أن إدخالات "غروكيبيديا" تعتمد في أحسن الأحوال على مصادر غير موثوقة، وفي أسوأها تحتوي على تضليل متعمد. وتكمن الخطورة الأكبر في أن استشهاد نماذج كبرى مثل "شات جي بي تي" بهذه المصادر يمنحها شرعية ومصداقية زائفة في نظر المستخدمين.
رد OpenAI والموقف الرسمي
تعليقاً على هذه النتائج، صرح متحدث باسم شركة OpenAI بأن ميزة بحث الويب في النموذج تهدف للاستفادة من نطاق واسع من وجهات النظر المتاحة للعامة. وأكد أن الشركة تطبق فلاتر أمان لتقليل المخاطر وتعمل ببرامج مستمرة لتصفية المعلومات منخفضة المصداقية، مشدداً على أن النموذج يوضح المصادر التي استند إليها عبر الاستشهادات.
الأسئلة الشائعة
هي موسوعة إلكترونية أطلقها إيلون ماسك في أكتوبر، يتم توليد محتواها وتعديله بالكامل بواسطة الذكاء الاصطناعي دون تدخل بشري مباشر.
تجنب شات جي بي تي الاستشهاد بغروكيبيديا عند سؤاله مباشرة عن معلومات مضللة واضحة، لكن معلومات الموسوعة تسربت في الإجابات عن مواضيع أكثر التباساً.
هي عملية يقوم فيها جهات خبيثة بنشر كميات ضخمة من المعلومات المضللة بهدف إدخال الأكاذيب إلى قواعد بيانات نماذج الذكاء الاصطناعي لتصبح جزءاً من إجاباتها.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!