Chatboturile AI nu oferă întotdeauna răspunsuri precise la întrebările medicale

Într-o lume în care tehnologia avansează în pași repezi, utilizarea inteligenței artificiale (AI) pentru a răspunde la întrebările noastre de sănătate devine din ce în ce mai comună. Un studiu recent realizat de cercetătorii de la Penn State University a explorat cât de eficiente sunt aceste chatboturi AI în a oferi informații medicale corecte. Rezultatele? Ei bine, sunt destul de îngrijorătoare.

Cercetarea, publicată inițial ca preprint pe arXiv, a analizat răspunsurile chatboturilor AI la întrebări medicale de zi cu zi. Conform studiului, aproximativ 76% din răspunsuri au fost considerate corecte, ceea ce sugerează că, deși aceste sisteme pot oferi informații utile, rata erorilor rămâne suficient de mare pentru a recomanda ca acestea să nu înlocuiască consultul medical profesionist în diagnosticarea sau recomandarea tratamentelor.

Amulya Yadav, profesor asociat de informatică și sisteme inteligente la Penn State și autorul senior al studiului, subliniază că cercetarea lor se concentrează pe scenarii de sănătate pe care un utilizator obișnuit de internet le-ar putea întreba AI-ul, o perspectivă neglijată de cercetările anterioare. “Am vrut să înțelegem cât de precis este un model de limbaj mare, cum ar fi ChatGPT, utilizat ca un instrument de verificare a simptomelor, asemănător modului în care am folosit Google în trecut”, explică Yadav.

Studiul a evidențiat și o schimbare în modul în care oamenii caută informații medicale online. Peste jumătate din adulții din SUA consultă resurse online pentru sfaturi medicale, o tendință care este particular de pronunțată în rândul adulților tineri, aproape un sfert dintre persoanele sub 30 de ani folosind AI-ul pentru orientare în sănătate.

Cercetarea a fost concepută pentru a evalua performanța AI-ului în comunicarea sănătății de zi cu zi, în loc să se bazeze pe teste controlate care folosesc examene de licențiere medicală sau studii de caz clinice. Aceasta a implicat un concurs de o săptămână, numit “Diagnose-a-thon”, la care au participat 34 de persoane, inclusiv cadre didactice, personal administrativ și studenți. Participanții au folosit unul dintre cele patru modele de AI accesibile publicului pentru a răspunde la 212 întrebări legate de sănătate.

Rezultatele au arătat că răspunsurile AI au fost în general considerate precise în proporție de 76%, ChatGPT-4o fiind cel mai precis, cu o rată de acuratețe de 84,62%, în timp ce Llama3-8b a înregistrat cea mai scăzută, cu 50%. De asemenea, au existat diferențe semnificative între specialitățile medicale în ceea ce privește calitatea răspunsurilor.

Aceste descoperiri subliniază importanța unei abordări prudente atunci când folosim AI pentru sfaturi de sănătate. În timp ce tehnologia poate oferi răspunsuri rapide și accesibile, aceasta nu poate înlocui încă expertiza și judecata umană a unui medic calificat. Așadar, este esențial să consultăm întotdeauna un profesionist în sănătate pentru probleme medicale serioase.

Sursa: Inside Precision Medicine