O anchetă realizată de publicația The Guardian arată că funcția AI Overviews dezvoltată de Google prezintă riscuri pentru sănătatea publică prin furnizarea unor date medicale eronate. Instrumentul, care generează rezumate automate bazate pe inteligență artificială direct în motorul de căutare, a oferit recomandări greșite în cazuri clinice grave.
Unul dintre cele mai grave exemple identificate vizează pacienții diagnosticați cu cancer pancreatic. Potrivit experților, inteligența artificială de la Google le-a sugerat eronat acestora să elimine alimentele bogate în grăsimi din dietă, o recomandare catalogată drept „extrem de periculos” de către medici.
Această indicație contrazice protocoalele medicale standard, spun specialiștii. Pacienții cu acest tip de cancer au nevoie de un aport caloric ridicat pentru a face față chimioterapiei sau operațiilor, iar evitarea grăsimilor le-ar putea diminua șansele de supraviețuire prin malnutriție.
Erorile nu s-au oprit aici, investigația menționând și interpretări greșite ale testelor hepatice care pot induce utilizatorii în eroare. Astfel de informații ar putea determina persoanele care suferă de boli grave de ficat să creadă, în mod fals, că sunt sănătoase și să ignore necesitatea unor controale de specialitate. De asemenea, rezumatele AI au furnizat date incorecte despre testele pentru depistarea cancerului vaginal sau despre simptomatologia unor afecțiuni psihice.
Organizațiile caritabile și medicale citate de The Guardian avertizează că plasarea acestor rezumate în partea de sus a paginii de căutare le oferă o aparență de autoritate. Utilizatorii pot fi astfel tentați să accepte aceste informații fără a le mai verifica, fapt ce pune în pericol siguranța pacienților.
În replică, reprezentanții gigantului tehnologic au precizat că sistemul este într-un proces continuu de optimizare. Google susține că majoritatea rezumatelor AI sunt „utile și corecte” și că intervine prompt cu corecții atunci când sunt sesizate erori sau lipsă de context, în special în domenii vitale precum medicina.
Detaliile despre aceste disfuncționalități ale inteligenței artificiale au fost publicate inițial de Mediafax.
