أزالت شركة «غوغل» عدداً من ملخصاتها الصحية المدعومة بالذكاء الاصطناعي، وذلك عقب تحقيق أجرته صحيفة «الغارديان» كشف عن احتوائها على معلومات خاطئة ومضللة قد تعرّض المستخدمين لأضرار صحية.
وأوضحت الشركة أن هذه الملخصات، التي تعتمد على الذكاء الاصطناعي التوليدي لتقديم لمحات سريعة عن مواضيع مختلفة وتظهر أعلى نتائج البحث، تُعد «مفيدة» و«موثوقة» بشكل عام، لكنها أقرت بأن بعض الملخصات الصحية تضمنت بيانات غير دقيقة.
وأشار التحقيق إلى حالة وُصفت بأنها «خطيرة ومقلقة»، حيث قدمت «غوغل» معلومات خاطئة حول اختبارات وظائف الكبد، ما قد يدفع مرضى يعانون أمراضاً كبدية خطيرة إلى الاعتقاد بأن نتائجهم طبيعية.
وذكرت «الغارديان» أن البحث عن «المعدل الطبيعي لاختبارات الدم للكبد» أظهر أرقاماً كثيرة من دون سياق كافٍ أو مراعاة لاختلاف الجنس أو العمر أو الخلفية الصحية، وهو ما اعتبره خبراء مضللاً. كما حذروا من أن ما تصنفه خدمة «نظرة عامة على نتائج فحوصات الكبد» على أنه طبيعي قد يختلف كثيراً عن الواقع الطبي، ما قد يؤدي إلى تجاهل المرضى لمواعيد المتابعة الضرورية.
وعقب التحقيق، أزالت «غوغل» خدمة «نظرة عامة على نتائج فحوصات الكبد» من نتائج بعض عمليات البحث ذات الصلة، مؤكدة أنها تعمل على تحسينات شاملة عند وجود نقص في السياق، وتتخذ الإجراءات اللازمة وفق سياساتها.
ورحبت فانيسا هيبديتش، مديرة الاتصالات في مؤسسة «بريتيش ليفر ترست»، بهذه الخطوة، لكنها أعربت عن قلقها من أن تظهر معلومات مضللة إذا صيغت الأسئلة بطريقة مختلفة، محذرة من استمرار المخاطر المرتبطة بالمعلومات الصحية التي ينتجها الذكاء الاصطناعي.
كما لفتت الصحيفة إلى أن استخدام صيغ بحث بديلة قد يؤدي إلى ظهور نتائج غير دقيقة، وهو ما أثار مخاوف الخبراء، الذين شددوا على أن تفسير اختبارات وظائف الكبد عملية معقدة لا يمكن اختزالها في أرقام مجردة.
وأكدت «غوغل»، التي تسيطر على نحو 91 في المائة من سوق محركات البحث العالمية، أنها تراجع الأمثلة الجديدة التي قدمتها «الغارديان»، مشددة على أن ملخصات الذكاء الاصطناعي لا تظهر إلا عندما تكون واثقة من جودة الإجابات، مع استمرارها في مراجعة الأداء عبر مختلف المجالات.
بدورها، رحبت سو فارينغتون، رئيسة منتدى معلومات المرضى، بإزالة هذه الملخصات، لكنها اعتبرت الخطوة غير كافية، مؤكدة أن الحفاظ على ثقة الجمهور يتطلب معالجة أوسع لمشكلة دقة المعلومات الصحية التي يقدمها الذكاء الاصطناعي، خاصة في ظل معاناة ملايين الأشخاص حول العالم من صعوبة الوصول إلى معلومات صحية موثوقة.