الذكاء الاصطناعي
#OpenAI
#Anthropic
انتقال رئيس أبحاث السلامة في OpenAI إلى Anthropic
في خطوة مثيرة للاهتمام، انضمت أندريا فالون، رئيسة أبحاث السلامة في OpenAI، إلى فريق الانسجام في Anthropic. تأتي هذه الخطوة في وقت يشهد فيه قطاع الذكاء الاصطناعي جدلاً واسعاً حول كيفية التعامل مع مشكلات الصحة النفسية التي تظهر أثناء محادثات الدردشة مع الروبوتات.
التحديات في أبحاث السلامة
خلال العام الماضي، قادت فالون الأبحاث المتعلقة بكيفية استجابة النماذج عند مواجهة علامات تدل على مشكلات نفسية لدى المستخدمين. وقد كتبت في منشور على لينكد إن حول هذا الموضوع، مشيرة إلى عدم وجود سوابق واضحة في هذا المجال.
الانتقال إلى Anthropic
بعد ثلاث سنوات في OpenAI، حيث عملت على تطوير فريق أبحاث السياسات، انتقلت فالون الآن إلى Anthropic، حيث ستعمل تحت إشراف يان ليكي، الذي غادر OpenAI في مايو 2024 بسبب مخاوف تتعلق بثقافة السلامة في الشركة.
![دراسة ستانفورد: مخاطر [[الذكاء الاصطناعي]] في تقديم المشورة الشخصية](/storage/articles/images/2026/03/stanford-study-outlines-dangers-of-asking-ai-chatbots-for-personal-advice/2.jpg)
الآثار المترتبة على السلامة النفسية
تزايدت المخاوف حول تأثير الدردشة مع الذكاء الاصطناعي على الصحة النفسية، حيث تم الإبلاغ عن حالات انتحار وجرائم بعد استشارة هذه الأدوات. وقد تم رفع دعاوى قضائية من قبل بعض العائلات، مما أدى إلى إجراء جلسات استماع في الكونغرس.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!