الذكاء الاصطناعي
#الذكاء_الاصطناعي
#أمن_المعلومات
تقرير: تطبيقات "تعرية" بالذكاء الاصطناعي تجتاح آبل وجوجل
كشف تقرير حديث عن انتشار واسع لتطبيقات توليد صور عارية باستخدام الذكاء الاصطناعي على المتاجر الرسمية، محققاً ملايين التنزيلات رغم سياسات الحظر الصارمة. أصدر مشروع الشفافية التقنية (TTP) تقريراً اليوم يؤكد أن تطبيقات "التعرية" (Nudify) متاحة بسهولة ويمكن العثور عليها بيسر على متجر تطبيقات آبل (App Store) ومتجر جوجل بلاي (Google Play).
مشكلة قديمة بتقنيات جديدة
بينما جذب نموذج "Grok" الانتباه مؤخراً بسبب قدرته على توليد صور جنسية غير توافقية، بما في ذلك حالات تتعلق بقاصرين، فإن المشكلة بحد ذاتها ليست جديدة. فمن الواضح أن هذه القضية تسبق عصر الذكاء الاصطناعي التوليدي، حيث كانت أدوات تحرير الصور التقليدية تتيح إنشاء هذا النوع من المحتوى المسيء لفترة طويلة.
ما تغير خلال العامين الماضيين هو حجم المشكلة وحقيقة أن العائق أمام إنشاء مثل هذه الصور في ثوانٍ أصبح شبه منعدم. وكما هو متوقع، حاولت العديد من التطبيقات الاستفادة من هذه القدرات الجديدة، وبعضها يروج لهذه الميزة بشكل علني.
المفارقة في سياسات المتاجر
يأتي هذا الانتشار في الوقت الذي خاضت فيه شركة آبل معارك قضائية ضد Epic Games ومطورين آخرين بتهم الاحتكار، حيث أصرت آبل أن جزءاً من سبب فرضها عمولات تصل إلى 30% هو لجعل متجر التطبيقات أكثر أماناً من خلال أنظمة المراجعة الآلية واليدوية.
ورغم أن آبل تعمل بجد لمنع الاحتيال والانتهاكات، إلا أن بعض الفئات من التطبيقات قد تفلت من الرقابة. ومثال على ذلك ما حدث العام الماضي، حيث ظهرت تطبيقات تدعي أنها تابعة لنموذج Sora 2 من OpenAI وتفرض رسوم اشتراك باهظة.
أرقام وعائدات ضخمة
أشار تقرير (TTP) إلى أن البحث البسيط عن مصطلحات مثل "nudify" أو "undress" كافٍ لإظهار تطبيقات التعرية، وبعضها يعلن صراحة باستخدام هذه الكلمات المفتاحية. ووفقاً لبيانات شركة تحليلات التطبيقات AppMagic التي استشهد بها التقرير:
- تم تنزيل التطبيقات التي حددها التقرير أكثر من 705 مليون مرة حول العالم.
- حققت هذه التطبيقات عائدات بلغت 117 مليون دولار.
- تستفيد آبل وجوجل مباشرة من هذه العائدات عبر اقتطاع حصتهما، رغم أن هذه التطبيقات تنتهك سياسات المتجرين بوضوح.
وتنقسم التطبيقات المكتشفة إلى فئتين رئيسيتين: تطبيقات تستخدم الذكاء الاصطناعي لتوليد صور أو فيديوهات بناءً على أوامر نصية، وتطبيقات "تبديل الوجوه" التي تضع وجه شخص على جسد آخر.
نتائج الاختبارات العملية
لاختبار هذه التطبيقات، استخدم فريق TTP صوراً لنساء غير حقيقيات مولدة بالذكاء الاصطناعي، واقتصر الاختبار على الميزات المجانية. وكانت النتائج كالتالي:
- استجابت 55 تطبيقاً على أندرويد للطلبات.
- استجابت 47 تطبيقاً على iOS للطلبات.
- وجد التقرير تطبيقاً واحداً على الأقل مصنفاً للأعمار من 9 سنوات وما فوق في متجر آبل.
في إحدى التجارب على نسخة iOS لتطبيق معين، رفض التطبيق طلباً نصياً لإزالة ملابس المرأة وأظهر تحذيراً من محتوى حساس، لكنه استجاب لطلب ثانٍ لإظهار المرأة بملابس سباحة. وتوفر واجهة التطبيق قوالب فيديو جاهزة بأسماء موحية.
وخلص التقرير إلى أن التطبيقات المذكورة قد تمثل "مجرد جزء بسيط" مما هو متاح، مشيراً إلى أن الشركات لا تراقب منصاتها بفعالية أو لا تطبق سياساتها الخاصة بصرامة عندما يتعلق الأمر بهذا النوع من التطبيقات.
الأسئلة الشائعة
وفقاً للتقرير، تم تنزيل هذه التطبيقات أكثر من 705 مليون مرة وحققت عائدات بقيمة 117 مليون دولار.
استخدم الباحثون كلمات بحث بسيطة مثل "nudify" أو "undress" للعثور عليها بسهولة في متجري آبل وجوجل.
نعم، حيث تقتطع الشركتان نسبة من عائدات هذه التطبيقات كعمولة، رغم أنها تنتهك سياسات النشر الخاصة بهما.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!