الذكاء الاصطناعي
#OpenAI
#الذكاء_الاصطناعي
OpenAI تحل فريق "محاذاة المهمة" لسلامة الذكاء الاصطناعي
أكدت شركة OpenAI أنها قامت بحل فريق "محاذاة المهمة" (Mission Alignment)، وهو الفريق الذي كان يركز - بحسب وصف الشركة - على ضمان أن تكون أنظمة الذكاء الاصطناعي "آمنة، جديرة بالثقة، ومتوافقة باستمرار مع القيم البشرية". يأتي هذا التغيير تزامراً مع تولي القائد السابق للفريق دوراً جديداً كـ "كبير المستشرفين" في الشركة.
إعادة هيكلة فريق السلامة
أكدت OpenAI لموقع TechCrunch أنه تم تعيين أعضاء الفريق في أدوار أخرى داخل الشركة. وكان هذا الفريق، الذي يبدو أنه تشكل في سبتمبر 2024، يمثل الوحدة الداخلية للشركة المخصصة للعمل على "المحاذاة" (Alignment)، وهو مجال واسع يهدف لضمان تصرف الذكاء الاصطناعي وفقاً للمصالح البشرية.
وكانت مدونة أبحاث المحاذاة في OpenAI قد ذكرت سابقاً أن الهدف هو جعل هذه الأنظمة "تتبع النوايا البشرية باستمرار في سيناريوهات معقدة وواقعية، وتجنب السلوك الكارثي، والبقاء قابلة للتحكم والتدقيق".
دور "كبير المستشرفين" الجديد
في منشور نُشر يوم الأربعاء، أوضح جوش أتشيام (Josh Achiam)، الرئيس السابق لفريق المحاذاة، دوره الجديد ككبير المستشرفين (Chief Futurist) في الشركة. وكتب أتشيام: "هدفي هو دعم مهمة OpenAI - لضمان أن يفيد الذكاء الاصطناعي العام البشرية جمعاء - من خلال دراسة كيفية تغير العالم استجابة للذكاء الاصطناعي، والذكاء الاصطناعي العام (AGI)، وما بعد ذلك".
وأشار أتشيام إلى أنه سيتعاون في دوره الجديد مع جيسون برويت (Jason Pruet)، وهو فيزيائي من الطاقم الفني في OpenAI.
مصير أعضاء الفريق والتغييرات المستمرة
ذكر متحدث باسم OpenAI أن بقية أعضاء فريق المحاذاة - وهم مجموعة مكونة من ستة أو سبعة أشخاص - قد تم إعادة تعيينهم لاحقاً في أجزاء مختلفة من الشركة. ورغم عدم تحديد الأقسام الجديدة بدقة، أكد المتحدث أنهم منخرطون في أعمال مماثلة في أدوارهم الجديدة.
وعزا المتحدث حل الفريق إلى أنواع إعادة التنظيم الروتينية التي تحدث داخل الشركات سريعة الحركة. الجدير بالذكر أن OpenAI كان لديها سابقاً ما يسمى بفريق "المحاذاة الفائقة" (Superalignment)، والذي تشكل في عام 2023 للتركيز على التهديدات الوجودية طويلة المدى، وتم حله أيضاً في عام 2024.
الأسئلة الشائعة
عزا متحدث باسم الشركة ذلك إلى إجراءات إعادة التنظيم الروتينية التي تحدث داخل الشركات سريعة النمو.
تولى جوش أتشيام منصب "كبير المستشرفين" (Chief Futurist) لدراسة تأثير الذكاء الاصطناعي العام على العالم.
تم إعادة تعيين الأعضاء الستة أو السبعة المتبقين في أدوار ومشاريع أخرى داخل أقسام الشركة المختلفة.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!