الذكاء الاصطناعي
#الذكاء_الاصطناعي
#أبحاث_علمية
هلوسات الذكاء الاصطناعي تخترق أبحاث مؤتمر NeurIPS المرموق
في مفارقة تقنية لافتة، كشفت شركة "GPTZero" المتخصصة في كشف النصوص المولدة بالذكاء الاصطناعي، عن وجود استشهادات مرجعية وهمية في أوراق بحثية قُبلت في مؤتمر "NeurIPS" المرموق، الذي عُقد الشهر الماضي في سان دييغو.
قامت الشركة بمسح شامل لجميع الأوراق البحثية المقبولة والبالغ عددها 4,841 ورقة، لتكتشف وجود 100 استشهاد مرجعي "مهلوس" (غير حقيقي) موزعة على 51 ورقة بحثية، وأكدت الشركة لموقع "تك كرانش" أن هذه المراجع مزيفة تماماً.
هلوسات وسط النخبة التقنية
يُعتبر قبول ورقة بحثية في مؤتمر "NeurIPS" إنجازاً كبيراً في عالم الذكاء الاصطناعي، مما يعني أن هذه الأخطاء صدرت عن نخبة العقول البحثية في هذا المجال. ويبدو أن هؤلاء الباحثين اعتمدوا على النماذج اللغوية الكبيرة (LLMs) لأتمتة مهمة كتابة المراجع المملة، لكنهم وقعوا في فخ "الهلوسة".
من الناحية الإحصائية، قد يبدو الرقم ضئيلاً؛ فوجود 100 استشهاد وهمي ضمن عشرات الآلاف من المراجع في المؤتمر لا يمثل نسبة كبيرة. إلا أن وجود أي استشهاد مزيف يمثل مشكلة بحد ذاته، خاصة في مؤتمر يفتخر بنشره العلمي الصارم.
تأثير الأخطاء على المصداقية العلمية
أوضحت إدارة المؤتمر لمجلة "فورتشن" أن وجود مرجع غير دقيق لا يلغي بالضرورة قيمة البحث العلمي المقدم. ومع ذلك، تُعد الاستشهادات بمثابة "عملة" للباحثين ومقياساً لتأثير أعمالهم، وعندما يختلق الذكاء الاصطناعي هذه المراجع، فإنه يقلل من قيمتها العلمية.
"حتى لو احتوت 1.1% من الأوراق على مراجع غير صحيحة بسبب استخدام النماذج اللغوية، فإن محتوى الأوراق بحد ذاته لا يعتبر بالضرورة باطلاً." - تصريح NeurIPS لمجلة فورتشن
أزمة مراجعة الأقران
أشار تقرير "GPTZero" إلى أن الهدف من هذا الكشف ليس مجرد تصيد الأخطاء، بل تسليط الضوء على ما وصفته بـ "تسونامي التقديمات" الذي تسبب في ضغط هائل على قنوات المراجعة في المؤتمرات، لدرجة الوصول إلى نقطة الانهيار. وقد استشهدت الشركة بورقة بحثية بعنوان "أزمة مراجعة الأقران في مؤتمرات الذكاء الاصطناعي" تعود لشهر مايو 2025.
وتبرز هنا المفارقة الكبرى: إذا كان خبراء الذكاء الاصطناعي الرائدون عالمياً، والذين يضعون سمعتهم على المحك، غير قادرين على ضمان دقة استخدامهم للنماذج اللغوية في تفاصيل أبحاثهم الخاصة، فماذا يعني ذلك بالنسبة للمستخدمين العاديين؟
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!