الذكاء الاصطناعي
#الذكاء_الاصطناعي
#الصحة_الرقمية
تحذير: أخطاء كارثية للذكاء الاصطناعي في غرف العمليات
كشف تقرير جديد من وكالة رويترز أن دمج الذكاء الاصطناعي في الأجهزة الطبية قد يؤدي لنتائج كارثية، حيث تسبب نظام TruDi المحدث في إصابات خطيرة للمرضى. يشير التقرير إلى أن التكنولوجيا التي تم تقديمها كخطوة كبيرة للأمام، قد تتسبب في الواقع بنتائج صحية أسوأ بسبب منح الثقة المفرطة لأنظمة قد تكون معيبة.
نظام TruDi: من أداة مساعدة إلى خطر محتمل
يركز التقرير بشكل أساسي على "نظام الملاحة TruDi"، وهو جهاز موجه بالصور صممته شركة تابعة لشركة جونسون آند جونسون لعلاج التهاب الجيوب الأنفية المزمن. في عام 2021، أعلنت الشركة عن استخدام الذكاء الاصطناعي لمساعدة المتخصصين في جراحات الأنف والأذن والحنجرة.
قبل إضافة الذكاء الاصطناعي، كان الجهاز متواجدًا في السوق لمدة ثلاث سنوات مع سبعة تقارير فقط عن أعطال غير مؤكدة. ولكن منذ تقديم "ترقية" الذكاء الاصطناعي، تلقت إدارة الغذاء والدواء الأمريكية (FDA) أكثر من 100 إشعار بالأعطال وما لا يقل عن 10 تقارير عن إصابات المرضى بسبب أخطاء ناتجة عن معلومات خاطئة من النظام.
إصابات خطيرة وتضليل للجراحين
تضمنت بعض الإصابات حالات خطيرة للغاية، حيث قام النظام بتضليل الجراحين حول موقع أدواتهم داخل المريض. وقد أدى ذلك إلى حالات قام فيها الجراح بثقب قاعدة جمجمة المريض، أو تسبب في تسرب السائل النخاعي من الأنف، وحتى إصابة مرضى بسكتات دماغية بعد ضرب شريان رئيسي عن طريق الخطأ.
ووفقاً لرويترز، رفع مريضان تعرضا لسكتات دماغية دعاوى قضائية، مشيرين إلى أن المنتج كان أكثر أماناً قبل دمج تغييرات البرمجيات التي تتضمن الذكاء الاصطناعي.
أرقام مقلقة واستعجال الشركات
لا يقتصر الأمر على نظام TruDi فقط؛ فهناك 1,357 جهازاً طبياً يستخدم الذكاء الاصطناعي معتمداً من FDA. وقد وجدت أبحاث نُشرت في JAMA Health Forum أن الأجهزة الطبية التي تدعم الذكاء الاصطناعي لديها معدل استدعاء (سحب من السوق) مرتفع بشكل صادم يبلغ 43%، وهو ضعف معدل الأجهزة غير المعتمدة على الذكاء الاصطناعي تقريباً.
وتواجه الشركات اتهامات بالتسرع في طرح المنتجات دون اختبارات كافية. حيث تزعم إحدى الدعاوى القضائية أن صانع جهاز TruDi خفض معيار الأمان إلى "دقة 80%" لدفع التكنولوجيا الجديدة إلى السوق بشكل أسرع كأداة تسويقية.
تراجع الرقابة الحكومية
في ظل هذه المخاطر، يبدو أن الرقابة الحكومية تتراجع. فقد تعرض القسم المكلف بمراجعة سلامة الأجهزة الطبية المدعومة بالذكاء الاصطناعي في FDA لتقليص شديد من قبل "إدارة الكفاءة الحكومية" (DOGE) بقيادة إيلون ماسك، حيث فقد 15 من أصل 40 عالماً.
كما تم تقليص جزء من FDA المسؤول عن مراجعة سلامة جهاز Neuralink الخاص بماسك. ومع استمرار الموافقة على المزيد من أجهزة الذكاء الاصطناعي دون مراجعة شاملة، يبدو أن نهج التكنولوجيا الشهير "تحرك بسرعة وحطم الأشياء" قد يكون خطيراً جداً عندما تكون هذه "الأشياء" هي جسم الإنسان.
الأسئلة الشائعة
نظام TruDi هو جهاز ملاحة جراحي لعلاج الجيوب الأنفية. يثير القلق بسبب ارتفاع حاد في تقارير الأعطال والإصابات بعد تحديثه بتقنيات الذكاء الاصطناعي.
وفقاً لدراسة في JAMA Health Forum، تبلغ نسبة استدعاء هذه الأجهزة 43%، وهو ضعف معدل الأجهزة التقليدية تقريباً.
تسببت DOGE في تقليص عدد العلماء في قسم مراجعة الذكاء الاصطناعي بـ FDA، مما أضعف القدرة على تقييم سلامة الأجهزة الجديدة.
التعليقات 0
سجل دخولك لإضافة تعليق
لا توجد تعليقات بعد. كن أول من يعلق!