جوجل تعطل ميزة «الملخصات بالذكاء الاصطناعي» في بعض نتائج البحث الطبية

أوقفت جوجل عرض «الملخصات بالذكاء الاصطناعي» (AI Overviews) لبعض الاستفسارات الطبية الحساسة، بعد تحقيق صحفي كشف عن تقديم معلومات مضللة وخطرة صحياً ضمن نتائج البحث. جاء القرار عقب تقرير نشرته صحيفة الغارديان هذا الشهر، أظهر أن النظام قدّم إرشادات خاطئة لمرضى سرطان البنكرياس وأخطاء تتعلق بوظائف الكبد.

خلفية القضية: تحقيق صحفي يكشف أخطاء طبية خطيرة
في مطلع الشهر الجاري، نشرت صحيفة الغارديان البريطانية تحقيقاً موسعاً عن أداء ميزة الملخصات بالذكاء الاصطناعي في محرك بحث جوجل عند التعامل مع الأسئلة الطبية. وأظهر التحقيق أن المستخدمين تلقوا في بعض الحالات معلومات غير دقيقة، بل مخالفة للإرشادات الطبية المعتمدة، ما أثار قلق الخبراء بشأن سلامة الاعتماد على هذه الملخصات في القضايا الصحية الحساسة.

حالة سرطان البنكرياس: توصيات معاكسة تماماً للطب
أبرز ما كشفه التحقيق حالة وصفها خبراء بأنها «شديدة الخطورة»، إذ أوصى ملخص الذكاء الاصطناعي من جوجل مرضى سرطان البنكرياس بتجنب الأطعمة الغنية بالدهون. وأكد اختصاصيون طبيون أن هذه النصيحة تعاكس تماماً ما توصي به البروتوكولات العلاجية، محذرين من أن اتباعها قد يزيد مخاطر تدهور الحالة الصحية وارتفاع احتمال الوفاة لدى المصابين بالمرض.

أخطاء أخرى تتعلق بوظائف الكبد
وأشار التقرير أيضاً إلى مثال آخر وصف بأنه «مثير للقلق»، إذ قدّم النظام معلومات غير صحيحة عن مؤشرات ووظائف الكبد الحيوية. ورأى الخبراء أن نشر هذه البيانات الخاطئة ضمن نتائج البحث الأولى قد يضلل المرضى ومقدمي الرعاية الصحية غير المتخصصين بالبحث العلمي، ويقود إلى قرارات صحية مبنية على معطيات مغلوطة.

إزالة النتائج المثيرة للجدل من محرك البحث
عقب نشر التحقيق واستمرار الجدل حول دقة مخرجات الذكاء الاصطناعي في المجال الطبي، لوحظ أن جوجل أزالت الملخصات بالذكاء الاصطناعي من نتائج البحث المتعلقة بهذه الأمثلة وغيرها من الاستفسارات الطبية المشابهة. ولم يُعرف بعد ما إذا كان هذا الإجراء دائماً أم مؤقتاً ريثما تُدخل تحسينات إضافية على نماذج الذكاء الاصطناعي وآليات التحقق من المعلومات.

تساؤلات حول موثوقية الذكاء الاصطناعي في الصحة
سلّطت الحادثة الضوء مجدداً على التحديات المرتبطة باستخدام نماذج الذكاء الاصطناعي التوليدية في المجالات الحساسة مثل الصحة والطب، إذ يمكن لخطأ واحد أو توصية غير دقيقة أن تترتب عليها تبعات مباشرة على سلامة المرضى. ويؤكد مختصون في التقنية والطب ضرورة وجود ضوابط صارمة لمراجعة المحتوى الطبي الذي تنتجه أنظمة الذكاء الاصطناعي، وعدم التعامل معها كبديل للاستشارة الطبية المتخصصة.

تناول موقع «ذا فيرج» التقني القصة الكاملة وتابع تداعيات التحقيق وتفاعل جوجل مع الانتقادات، في وقت تستمر فيه شركات التكنولوجيا الكبرى في دفع منتجات الذكاء الاصطناعي إلى واجهة خدمات البحث والمعلومات عالمياً.