كشف تحقيق أجرته صحيفة الغارديان أن ملخصات البحث المعتمدة على الذكاء الاصطناعي من شركة جوجل قد تعرّض المستخدمين لخطر الأذى، بعد أن قدمت في عدد من الحالات معلومات صحية غير دقيقة أو مضللة، وُصفت من قبل خبراء بأنها قد تكون “خطيرة للغاية”.
وتستخدم جوجل ما تُعرف بـ“مراجعات الذكاء الاصطناعي” أو AI Overviews لتقديم إجابات مختصرة تظهر في أعلى نتائج البحث، مستندة إلى تقنيات الذكاء الاصطناعي التوليدي.
وتؤكد الشركة أن هذه الملخصات “مفيدة وموثوقة”، غير أن تحقيق الغارديان وجد أمثلة متعددة على نصائح صحية خاطئة قد تؤدي إلى قرارات طبية ضارة.
في إحدى أخطر الحالات، نصحت مراجعة ذكاء اصطناعي مرضى سرطان البنكرياس بتجنب الأطعمة الغنية بالدهون، وهو ما أكد مختصون أنه عكس ما ينبغي التوصية به.
وقال خبراء إن هذا النوع من النصائح قد يؤدي إلى فقدان الوزن ونقص السعرات الحرارية، ما قد يمنع المرضى من تحمل العلاج الكيميائي أو الجراحة، ويزيد من خطر الوفاة.
وقالت آنا جويل، مديرة الدعم والبحث في مؤسسة سرطان البنكرياس في المملكة المتحدة، إن هذه النصيحة “خاطئة تمامًا”، مضيفة أن اتباعها “قد يكون خطيرًا للغاية ويقوض فرص المريض في التعافي وتلقي العلاج المنقذ للحياة”.
وفي مثال آخر وصفه خبراء بـ“المقلق”، قدمت مراجعات الذكاء الاصطناعي معلومات غير دقيقة حول اختبارات وظائف الكبد، مع عرض أرقام عامة دون سياق طبي، أو مراعاة العمر أو الجنس أو الخلفية الصحية.
وقالت باميلا هيلي، الرئيسة التنفيذية لمؤسسة الكبد البريطانية، إن هذا قد يدفع مرضى يعانون من أمراض كبد خطيرة إلى الاعتقاد بأن نتائجهم طبيعية، وبالتالي تجنب المتابعة الطبية اللازمة.
كما كشف التحقيق أن عمليات بحث تتعلق بسرطانات النساء قدمت معلومات “خاطئة تمامًا”، من بينها الإيحاء بأن اختبار مسحة عنق الرحم هو اختبار للكشف عن سرطان المهبل، وهو أمر غير صحيح طبياً.
وحذرت أثينا لامنيسوس، الرئيسة التنفيذية لجمعية “إيف أبيل” الخيرية، من أن مثل هذه المعلومات قد تؤدي إلى تجاهل أعراض خطيرة وتأخير التشخيص.
وأثار التحقيق أيضًا مخاوف بشأن الصحة النفسية، إذ تبين أن بعض الملخصات المتعلقة بحالات مثل الذهان واضطرابات الأكل قدمت نصائح وُصفت بأنها “غير دقيقة أو ضارة”، وقد تثني المرضى عن طلب المساعدة المتخصصة، بحسب مؤسسة “مايند” للصحة النفسية.
وأشارت منظمات صحية إلى أن إحدى المشكلات الأساسية تكمن في تغير إجابات الذكاء الاصطناعي عند تكرار البحث نفسه، ما يعني حصول المستخدمين على معلومات مختلفة في أوقات مختلفة، وهو ما وصفه خبراء بأنه “غير مقبول” في القضايا الصحية.
من جانبها، قالت جوجل إن غالبية ملخصات الذكاء الاصطناعي التي تقدمها دقيقة ومفيدة، مؤكدة أنها تستثمر بشكل كبير في تحسين الجودة، لا سيما في الموضوعات الصحية.
وأضافت الشركة أن هذه المراجعات ترتبط بمصادر موثوقة، وتشجع المستخدمين على طلب المشورة من المختصين، مؤكدة أنها تتخذ إجراءات عندما يسيء النظام تفسير المحتوى أو يفتقر إلى السياق.
ويأتي هذا التحقيق في ظل مخاوف متزايدة من اعتماد الجمهور على أدوات الذكاء الاصطناعي كمصدر للمعلومات الصحية، ما يثير تساؤلات حول المسؤولية والضمانات المطلوبة لحماية المستخدمين من مخاطر التضليل.
