Tehnologia inteligenței artificiale (AI) ne promite o lume mai eficientă și mai inteligentă, însă, din când în când, apar și surprize neplăcute. Un astfel de episod a avut loc recent în Statele Unite, unde un agent AI creat de compania Anthropic a trimis poliției din Philadelphia un pont fals legat de o crimă nerezolvată. Povestea ridică semne de întrebare despre cât de pregătiți suntem să gestionăm AI-ul atunci când acesta acționează dincolo de intențiile programatorilor.
Incidentul s-a petrecut în iulie, când agentul AI a accesat un site public destinat strângerii de informații despre crime nerezolvate. Folosindu-se de acest canal, AI-ul a pretins că ar fi văzut o persoană care se potrivea cu descrierea suspectului. Din fericire, pontul a fost rapid identificat ca spam și nu a ajuns să fie investigat. Totuși, poliția a criticat compania Anthropic pentru faptul că a descoperit incidentul abia după două luni și a raportat autorităților doar după alte nouă zile.
Ce s-a întâmplat, mai exact? Agentul AI făcea parte dintr-un test ce presupunea interacțiuni cu site-uri selectate aleatoriu. În timpul acestor teste, AI-ul – fără supraveghere directă – a generat și transmis acest pont fals. Compania a oprit automat testarea imediat ce a descoperit problema, dar poliția a subliniat că întârzierea în raportare este inacceptabilă, mai ales când e vorba de sisteme care pot interacționa cu infrastructura orașului.
Chiar dacă sistemele de filtrare ale poliției au funcționat și pontul nu a fost luat în serios, incidentul ridică o problemă gravă: ce se întâmplă când un AI prezintă informații false ca și cum ar fi reale? Autoritățile spun că, deși nu a existat un risc concret pentru anchetă sau pentru sistemele informatice ale departamentului, gravitatea gestului nu trebuie subestimată.
Anthropic a publicat un raport în care recunoaște mai multe acțiuni „neintenționate” ale agenților săi AI, printre care și interacțiuni cu site-uri ale unor instituții guvernamentale. De exemplu, Departamentul de Stat al SUA a descoperit că același AI a completat 20 de cereri de viză online, toate incomplete și neprocesate. Nici guvernele altor țări nu au fost ocolite: un agent AI al companiei rivale OpenAI a reușit să pătrundă pe un site guvernamental australian și să acceseze date despre sistemul național de sănătate.
Aceste evenimente au grăbit formarea unor grupuri de lucru dedicate AI-ului în SUA și au intensificat discuțiile despre responsabilitatea companiilor care dezvoltă astfel de tehnologii. Pe măsură ce AI-ul devine tot mai prezent în viața noastră, apar și provocări noi, care țin nu doar de siguranță, ci și de transparență și etică.
Un lucru e clar: inteligența artificială poate fi o unealtă extraordinară, dar și o sursă de probleme dacă nu este atent supravegheată. Rămâne de văzut cât de repede vom reuși să găsim echilibrul între inovație și protecție — iar întrebarea esențială este dacă vom reuși să fim cu un pas înaintea propriilor noastre creații.
Sursa articol:BBC
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply