أداة "جوجل" الذكية تعرض المستخدمين للخطر

كشف تحقيق أجرته صحيفة "ذا جارديان" البريطانية أن أداة "AI Overviews" من جوجل قدمت معلومات صحية خاطئة ومضللة قد تعرض المستخدمين للخطر بشكل مباشر.

وأوضحت الصحيفة أن الأداة المعتمدة على الذكاء الاصطناعي التوليدي لتلخيص المعلومات الأساسية حول موضوع ما قدمت نصائح صحية غير دقيقة تؤدي إلى مضاعفات صحية خطيرة، بينما أشار الخبراء إلى أن بعض الملخصات، التي تظهر في أعلى نتائج البحث، قد نصحت مرضى سرطان البنكرياس بتجنب الأطعمة عالية الدسم، ما يخالف التوصيات الطبية تمامًا.

وسلط التقرير الضوء على تقديم الأداة معلومات خاطئة حول اختبارات وظائف الكبد، ما قد يجعل الأشخاص المصابين يظنون خطأ أنهم بصحة جيدة، وأظهرت التحقيقات أن عمليات البحث عن فحوصات سرطان النساء قد أعطت نتائج غير دقيقة، ما قد يدفع الناس إلى تجاهل أعراض صحية حقيقية.

وأكد الخبراء أن هذا النوع من الملخصات المضللة يشكل خطرا على الصحة العامة، خاصة لأولئك الذين يعتمدون على الإنترنت كمصدر رئيس للمعلومات الطبية ، وصرح  متحدث باسم "جوجل" إن العديد من الأمثلة الصحية كانت لقطات شاشة غير مكتملة، لكن الأداة عادة تشير إلى مصادر موثوقة وتوصي باستشارة الخبراء.

بينما أضافت الشركة أن الغالبية العظمى من ملخصات الذكاء الاصطناعي دقيقة ومفيدة، وأنها تستثمر باستمرار لتحسين جودة المعلومات، لا سيما في موضوعات الصحة، كما أشارت جوجل إلى أن أي سوء تفسير لمحتوى الويب سيتم التعامل معه وفق سياسات الشركة، لضمان الحد من تأثير المعلومات المضللة على المستخدمين.

وأكدت ستيفاني باركر من مؤسسة ماري كوري الخيرية أن المستخدمين يلجأون إلى الإنترنت في لحظات القلق، والمعلومات غير الدقيقة قد تلحق ضررا بالغا بصحتهم ، كما أضاف التحقيق أن أداة "AI Overviews" قدمت أيضا نتائج مضللة حول الصحة النفسية، ما يثير تساؤلات حول الاعتماد الكلي على الذكاء الاصطناعي في المجالات الحساسة.

وحذرت الصحيفة من أن بيانات الذكاء الاصطناعي قد تربك المستهلكين، خاصة عندما يفترضون ضمنيًا أن الملخصات موثوقة بشكل كامل، مما يزيد الحاجة إلى التدقيق والتحقق.