Integrarea tehnologiei AI generative, precum ChatGPT, cu sfaturi de sănătate sau analize medicale a fost o idee controversată încă de la lansarea serviciului la sfârșitul anului 2022. Recent, SFGate a publicat o investigație care detaliază cum un tânăr de 19 ani din California a decedat din cauza unei supradoze de droguri în mai 2025, după ce a solicitat sfaturi despre droguri recreative de la ChatGPT timp de 18 luni. Este un exemplu clar al riscurilor implicite când măsurile de siguranță ale chatbotului eșuează în timpul conversațiilor lungi și oamenii urmează indicațiile eronate ale AI.
În ciuda problemelor cunoscute de acuratețe ale chatboturilor AI, noua funcție Health de la OpenAI va permite utilizatorilor să conecteze înregistrările medicale și aplicații de wellness precum Apple Health și MyFitnessPal, astfel încât ChatGPT să poată oferi răspunsuri personalizate despre sănătate, cum ar fi rezumatul instrucțiunilor de îngrijire, pregătirea pentru consultații medicale și înțelegerea rezultatelor analizelor.
OpenAI a raportat că peste 230 de milioane de persoane adresează săptămânal întrebări despre sănătate pe ChatGPT, fiind una dintre cele mai frecvente utilizări ale chatbotului. Compania a colaborat cu peste 260 de medici timp de doi ani pentru a dezvolta ChatGPT Health și afirmă că conversațiile din această nouă secțiune nu vor fi folosite pentru a antrena modelele sale AI.
„ChatGPT Health este un alt pas către transformarea ChatGPT într-un super-asistent personal care te poate sprijini cu informații și unelte pentru a-ți atinge obiectivele în orice parte a vieții tale”, a scris Fidji Simo, CEO-ul OpenAI pentru aplicații, într-un post pe blog.
Cu toate acestea, în ciuda discursurilor OpenAI de sprijinire a obiectivelor de sănătate, termenii și condițiile companiei specifică clar că ChatGPT și alte servicii OpenAI „nu sunt destinate utilizării în diagnosticarea sau tratamentul oricărei condiții de sănătate”.
Politica pare să nu se schimbe odată cu ChatGPT Health. OpenAI menționează în anunțul său că „Health este destinat să sprijine, nu să înlocuiască îngrijirea medicală. Nu este destinat diagnosticării sau tratamentului. În schimb, ajută la navigarea întrebărilor cotidiene și la înțelegerea modelelor în timp – nu doar în momentele de boală – astfel încât să te simți mai informat și pregătit pentru conversații medicale importante.”
Raportul SFGate privind decesul lui Sam Nelson subliniază de ce menținerea acestei clauze legale este importantă. Conform înregistrărilor de chat revizuite de publicație, Nelson a întrebat inițial ChatGPT despre dozajul drogurilor recreative în noiembrie 2023. Asistentul AI inițial a refuzat și l-a îndrumat către profesioniștii din sănătate. Însă, pe parcursul a 18 luni de conversații, răspunsurile ChatGPT s-au modificat treptat. În cele din urmă, chatbotul i-a sugerat lucruri precum „Da, să mergem pe modul complet trippy” și i-a recomandat să-și dubleze doza de sirop de tuse. Mama lui l-a găsit decedat din cauza unei supradoze în ziua următoare începerii tratamentului pentru dependență.
Poll: Ce părere aveți despre faptul că ChatGPT Health poate oferi răspunsuri personalizate despre sănătate pe baza datelor medicale utilizatorilor?
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply