Duminică, Google a decis să retragă anumite sumarizări AI ale informațiilor de sănătate, cunoscute sub denumirea de „AI Overviews”, după ce o investigație realizată de The Guardian a relevat că acestea conțin informații false și înșelătoare, punând în pericol sănătatea utilizatorilor. Retragerea a fost inițiată în urma descoperirii că funcția de AI generativ oferă informații medicale inexacte în fruntea rezultatelor căutării, ceea ce ar putea determina pacienți grav bolnavi să creadă eronat că sunt sănătoși.
Anumite întrebări specifice, cum ar fi „care este intervalul normal pentru testele de sânge ale ficatului”, au fost dezactivate de Google după ce experții consultați de The Guardian au semnalat rezultatele drept periculoase. Raportul subliniază o eroare gravă legată de cancerul pancreatic: AI-ul sugera pacienților să evite alimentele bogate în grăsimi, o recomandare care contravine orientărilor medicale standard de menținere a greutății și care ar putea pune în pericol sănătatea pacienților. Cu toate aceste descoperiri, Google a dezactivat doar sumarizările pentru interogările legate de testele ficatului, lăsând alte răspunsuri potențial periculoase accesibile.
Investigația a arătat că, în căutarea normelor pentru testele ficatului, erau generate tabele cu date brute (listând enzime specifice precum ALT, AST și fosfataza alcalină) care lipseau de contextul esențial. Funcția AI nu a reușit, de asemenea, să ajusteze aceste cifre în funcție de demografia pacientului, incluzând vârsta, sexul și etnia. Experții au avertizat că, deoarece definiția modelului AI pentru „normal” diferă adesea de standardele medicale reale, pacienții cu afecțiuni grave ale ficatului ar putea crede eronat că sunt sănătoși și să omită îngrijirile medicale necesare.
Vanessa Hebditch, director de comunicare și politică la British Liver Trust, a declarat pentru The Guardian că un test de funcție hepatică este un set de diferite teste de sânge și că interpretarea rezultatelor „este complexă și implică mult mai mult decât compararea unui set de numere”. Ea a adăugat că sumarizările AI nu avertizează că cineva poate obține rezultate normale pentru aceste teste chiar dacă suferă de o boală hepatică gravă și necesită îngrijiri medicale suplimentare. „Această asigurare falsă ar putea fi foarte dăunătoare”, a spus ea.
Google a refuzat să comenteze despre retragerile specifice pentru The Guardian. Un purtător de cuvânt al companiei a declarat pentru The Verge că Google investește în calitatea sumarizărilor AI, în special pentru subiectele de sănătate, și că „majoritatea vastă oferă informații precise”. Purtătorul de cuvânt a adăugat că echipa internă de clinicieni a companiei a revizuit informațiile împărtășite și „a constatat că, în multe cazuri, informațiile nu erau inexacte și erau, de asemenea, susținute de site-uri web de înaltă calitate”.
Problemele recurente cu sumarizările AI provin dintr-un defect de proiectare în modul în care funcționează sistemul. Așa cum am raportat în mai 2024, Google a construit AI Overviews pentru a arăta informații susținute de cele mai bune rezultate ale paginilor web din sistemul său de clasificare a paginilor, presupunând că paginile bine clasate conțin informații exacte.
Cu toate acestea, algoritmul de clasificare a paginilor Google a întâmpinat dificultăți de mult timp cu conținutul optimizat pentru SEO și spamul.
Poll: Ce părere aveți despre decizia Google de a retrage sumarizările AI ale informațiilor de sănătate?
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply