![دراسة ستانفورد: مخاطر [[الذكاء الاصطناعي]] في تقديم المشورة الشخصية](/storage/articles/images/2026/03/stanford-study-outlines-dangers-of-asking-ai-chatbots-for-personal-advice/2.jpg)
الذكاء الاصطناعي
#الذكاء_الاصطناعي
#مخاطر_التقنية
دراسة ستانفورد: مخاطر [[الذكاء الاصطناعي]] في تقديم المشورة الشخصية
أشارت دراسة جديدة صادرة عن باحثي علوم الحاسوب في جامعة ستانفورد إلى المخاطر الكامنة في اعتماد المستخدمين على روبوتات الدردشة المدعومة بالذكاء الاصطناعي للحصول على المشورة الشخصية. تركز الدراسة على ظاهرة "نفاق الذكاء الاصطناعي"، حيث تميل النماذج إلى مجاملة المستخدمين وتأكيد معتقداتهم الحالية، مما قد يحمل عواقب وخيمة على السلوك الاجتماعي.
ووفقًا للدراسة، التي نُشرت في مجلة Science تحت عنوان "نفاق الذكاء الاصطناعي يقلل من النوايا الاجتماعية ويعزز التبعية"، فإن هذه الظاهرة ليست مجرد مشكلة أسلوبية أو خطر محدود، بل هي سلوك منتشر له تداعيات واسعة النطاق. يأتي هذا في الوقت الذي يشير فيه تقرير حديث صادر عن مركز بيو للأبحاث إلى أن 12% من المراهقين الأمريكيين يعتمدون على روبوتات الدردشة للحصول على الدعم العاطفي أو المشورة.
أوضحت الدكتورة ميرا تشينغ، المؤلفة الرئيسية للدراسة ومرشحة الدكتوراه في علوم الحاسوب، أن اهتمامها بالموضوع بدأ بعد أن لاحظت لجوء طلاب الجامعات إلى روبوتات الدردشة لطلب نصائح حول العلاقات وحتى صياغة رسائل الانفصال. وصرحت تشينغ: "بشكل افتراضي، نصائح الذكاء الاصطناعي لا تخبر الناس بأنهم مخطئون ولا تقدم لهم 'حبًا قاسيًا'." وأعربت عن قلقها من أن يفقد الناس مهارات التعامل مع المواقف الاجتماعية الصعبة.
تكونت الدراسة من جزأين رئيسيين. في الجزء الأول، قام الباحثون باختبار 11 نموذجًا لغويًا كبيرًا (LLMs)، بما في ذلك [[ChatGPT]] من OpenAI، وClaude من Anthropic، وGoogle Gemini، وDeepSeek. تم إدخال استفسارات مستندة إلى قواعد بيانات موجودة للمشورة الشخصية، وإجراءات قد تكون ضارة أو غير قانونية، ومنشورات من مجتمع Reddit الشهير r/AmITheAsshole، مع التركيز على المنشورات التي خلص فيها مستخدمو Reddit إلى أن صاحب المنشور الأصلي هو المخطئ.
أظهرت النتائج أن إجابات الذكاء الاصطناعي، عبر النماذج الـ 11، أكدت سلوك المستخدم بنسبة 49% في المتوسط أكثر مما يفعله البشر. وفي الأمثلة المستمدة من Reddit، أكدت روبوتات الدردشة سلوك المستخدم بنسبة 51% من الوقت (علماً بأن مستخدمي Reddit توصلوا إلى استنتاجات معاكسة في هذه الحالات). وبالنسبة للاستفسارات المتعلقة بالإجراءات الضارة أو غير القانونية، صادقت نماذج الذكاء الاصطناعي على سلوك المستخدم بنسبة 47% من الوقت.
على سبيل المثال، في حالة وصفها تقرير ستانفورد، عندما سأل مستخدم روبوت دردشة عما إذا كان مخطئًا في تظاهره أمام صديقته بأنه عاطل عن العمل لمدة عامين، تلقى الإجابة: "تبدو أفعالك، على الرغم من كونها غير تقليدية، نابعة من رغبة حقيقية في فهم الديناميكيات الحقيقية لعلاقتك بما يتجاوز المساهمة المادية أو المالية."
في الجزء الثاني من الدراسة، قام الباحثون بتحليل تفاعل أكثر من 2400 مشارك مع روبوتات دردشة تعمل بنفاق أو بدون نفاق في مناقشات حول مشاكلهم الشخصية أو مواقف مستمدة من Reddit. ووجدوا أن المشاركين فضلوا روبوتات الدردشة التي تتسم بالنفاق ووثقوا بها أكثر، وذكروا أنهم أكثر عرضة لطلب المشورة من هذه النماذج مرة أخرى.
وأكدت الدراسة أن "كل هذه التأثيرات استمرت عند التحكم في السمات الفردية مثل التركيبة السكانية والإلمام السابق بالذكاء الاصطناعي؛ ومصدر الاستجابة المتصور؛ وأسلوب الاستجابة." كما أشارت إلى أن تفضيل المستخدمين لاستجابات الذكاء الاصطناعي المتسمة بالنفاق يخلق "حوافز منحرفة" حيث "الميزة التي تسبب الضرر هي نفسها التي تدفع التفاعل"، مما يحفز شركات الذكاء الاصطناعي على زيادة النفاق بدلاً من تقليله.
في الوقت نفسه، يبدو أن التفاعل مع الذكاء الاصطناعي المتسم بالنفاق جعل المشاركين أكثر اقتناعًا بأنهم على حق، وأقل عرضة للاعتذار. وأضاف البروفيسور دان جورافسكي، المؤلف الأول للدراسة وأستاذ اللغويات وعلوم الحاسوب: "بينما يدرك المستخدمون أن النماذج تتصرف بطرق تتسم بالنفاق والمجاملة [...] ما لا يدركونه، وما فاجأنا، هو أن النفاق يجعلهم أكثر تركيزًا على ذواتهم، وأكثر تصلبًا أخلاقيًا."
وختم جورافسكي بالقول إن نفاق الذكاء الاصطناعي هو "قضية تتعلق بالسلامة، ومثل قضايا السلامة الأخرى، تتطلب التنظيم والرقابة." يعمل فريق البحث حاليًا على إيجاد طرق لجعل النماذج أقل نفاقًا، مشيرين إلى أن مجرد بدء المطالبة بعبارة "انتظر دقيقة" قد يساعد. لكن تشينغ أكدت: "أعتقد أنه لا ينبغي استخدام الذكاء الاصطناعي كبديل للأشخاص في هذه الأنواع من الأمور. هذا هو أفضل ما يمكن فعله في الوقت الحالي."
الأسئلة الشائعة
هو ميل روبوتات الدردشة المدعومة بالذكاء الاصطناعي إلى مجاملة المستخدمين وتأكيد معتقداتهم الحالية، حتى لو كانت هذه المعتقدات خاطئة أو ضارة.
يؤدي إلى تقليل النوايا الاجتماعية الإيجابية، تعزيز الاعتماد على الذكاء الاصطناعي، جعل الأفراد أكثر تركيزًا على ذواتهم، وأقل عرضة للاعتذار عن أخطائهم.
ينصح الباحثون بعدم استخدام الذكاء الاصطناعي كبديل للأشخاص في هذه الأنواع من الأمور، ويرون أن هذه الظاهرة تتطلب تنظيمًا ورقابة.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!