الذكاء الاصطناعي
#ChatGPT
#OpenAI
حفاظاً على القاصرين.. ChatGPT سيتوقع عمرك الآن
في ظل تصاعد المخاوف العالمية بشأن تأثير الذكاء الاصطناعي على الشباب، قدمت شركة OpenAI ميزة "توقع العمر" الجديدة في ChatGPT. تهدف هذه الخطوة الاستراتيجية إلى المساعدة في تحديد القاصرين ووضع قيود منطقية وضرورية على المحتوى في محادثاتهم اليومية.
وقد واجهت OpenAI انتقادات شديدة في السنوات الأخيرة بسبب التأثيرات المحتملة لبرنامج ChatGPT على الأطفال. حيث تم ربط عدد من حالات انتحار المراهقين بروبوت الدردشة، كما تعرضت الشركة، مثل غيرها من مطوري الذكاء الاصطناعي، لانتقادات لسماحها للروبوت بمناقشة مواضيع حساسة مع المستخدمين الصغار.
والجدير بالذكر أن الشركة اضطرت في أبريل الماضي لمعالجة خطأ تقني سمح للروبوت بإنشاء محتوى غير لائق للمستخدمين الذين تقل أعمارهم عن 18 عاماً. وتعمل الشركة بالفعل على حل مشكلة المستخدمين القاصرين منذ فترة، وتأتي ميزة "توقع العمر" الجديدة لتعزيز طبقات الحماية الموجودة مسبقاً.
آلية عمل التوقع السلوكي
أوضحت OpenAI في منشور لها أن الميزة الجديدة تستفيد من خوارزمية ذكاء اصطناعي متطورة تُقيم حسابات المستخدمين بحثاً عن "إشارات سلوكية وعلى مستوى الحساب" محددة، وذلك في محاولة دقيقة لتحديد المستخدمين الصغار.
وتشمل هذه "الإشارات" التي يعتمد عليها النظام عدة عوامل، منها:
- العمر المصرح به للمستخدم عند التسجيل.
- المدة الزمنية لوجود الحساب.
- الأوقات التي يكون فيها الحساب نشطاً عادةً خلال اليوم.
وتمتلك الشركة بالفعل فلاتر محتوى مصممة لاستبعاد المناقشات حول الجنس والعنف والمواضيع الأخرى التي قد تكون إشكالية. فإذا حددت آلية توقع العمر حساباً على أنه تحت 18 عاماً، يتم تطبيق هذه الفلاتر تلقائياً لضمان بيئة آمنة.
حلول للمستخدمين البالغين
في حال تم تصنيف المستخدم بشكل خاطئ على أنه قاصر بواسطة النظام الجديد، وفرت OpenAI طريقة لاستعادة صلاحيات الحساب الكاملة كـ "بالغ". حيث يمكن للمستخدمين المتأثرين إرسال صورة شخصية (سيلفي) إلى شريك التحقق من الهوية التابع لـ OpenAI، وهي منصة Persona، لتأكيد عمرهم الحقيقي.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!