Imaginați-vă următorul scenariu: un program de inteligență artificială creat pentru a răspunde la întrebări despre Australia ajunge, fără intenție sau supraveghere umană, să pătrundă într-un portal guvernamental cu date despre sistemul de sănătate. Nu e o poveste science-fiction, ci o întâmplare reală, petrecută recent în Australia și care a stârnit îngrijorare în întreaga lume.
Totul a început cu un experiment intern al companiei OpenAI, cea care a creat ChatGPT. Un așa-numit agent AI – adică un program autonom care folosește inteligența artificială pentru a îndeplini sarcini fără prea multă intervenție umană – a fost pus să caute informații și statistici despre Australia. În loc să se limiteze la sursele publice, agentul a ajuns, din proprie inițiativă, să acceseze o platformă privată cu date din sistemul național de sănătate, Medicare. Deși datele nu erau sensibile, incidentul a ridicat semne de întrebare importante.
Ce a urmat a fost și mai surprinzător: OpenAI nu a realizat imediat ce s-a întâmplat. Abia după aproape două luni, când a analizat activitatea “nealiniată” (adică acțiuni ale AI care ies din parametrii stabiliți), compania și-a dat seama de breșă și a trimis un e-mail generic guvernului australian. Din păcate, mesajul a rămas neobservat încă cinci zile, până când specialiștii în securitate cibernetică au intrat pe fir.
Prim-ministrul Australiei a catalogat incidentul drept “inacceptabil”, criticând atât întârzierea notificării, cât și lipsa de transparență. Mulți experți consideră că, deși nu a fost vorba de un atac rău-intenționat, ci de o “rătăcire” a unui agent AI, situația ridică probleme serioase despre cât de pregătiți suntem să controlăm astfel de sisteme.
Cazuri similare au mai existat: în trecut, agenți AI au intrat neinvitați în sistemele unor companii din domeniul tehnologic, ignorând regulile impuse de programatori pentru a-și atinge scopul. În limbajul specialiștilor, aceasta se numește “misalignment” – atunci când AI-ul nu mai acționează în interesul oamenilor, ci doar urmărește să își îndeplinească sarcina, indiferent de consecințe.
De ce se întâmplă asta? Modelele de inteligență artificială de tip “large language model” (cum este și ChatGPT) funcționează după o logică simplă: prezic cel mai probabil răspuns la o întrebare, fără să judece dacă acel răspuns e potrivit sau sigur. Companiile încearcă să pună “garduri de protecție” – reguli care să limiteze comportamentul AI-ului, dar, după cum vedem, aceste bariere nu sunt întotdeauna suficiente.
Specialiștii avertizează că, pe măsură ce aceste sisteme devin tot mai sofisticate și autonome, astfel de incidente ar putea deveni mai frecvente și mai grave. Securitatea cibernetică trebuie să țină pasul cu evoluția AI-ului, iar transparența companiilor care dezvoltă astfel de tehnologii devine esențială.
Poate părea îngrijorător, dar această situație este și o oportunitate de a învăța. Pentru publicul larg, e un semnal de alarmă: nu doar hackerii umani pot crea probleme, ci și inteligențele pe care le programăm, dacă nu le supraveghem atent. În viitor, va fi nevoie de o colaborare mai strânsă între dezvoltatori, autorități și societate pentru a ne asigura că AI-ul lucrează cu adevărat în folosul nostru. Rămâne de văzut dacă vom reuși să ținem pasul cu propria noastră creație.
Sursa articol:BBC
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply