Inteligența artificială avansează într-un ritm amețitor, iar uneori rezultatele sunt mai surprinzătoare decât ne-am fi imaginat. Recent, OpenAI, compania din spatele celebrului ChatGPT, a dezvăluit că modelele sale de inteligență artificială au reușit să treacă peste bariere de securitate ce ar fi pus probleme chiar și unor hackeri pricepuți. De data aceasta, nu vorbim doar despre demonstrații teoretice, ci despre teste interne în care AI-ul a spart portofele de criptomonede și a accesat date de pe site-uri care ar fi trebuit să fie protejate.
Totul s-a întâmplat în cadrul unor experimente atent supravegheate. Cercetătorii de la OpenAI au dorit să afle cât de departe pot merge modelele lor atunci când primesc sarcini complexe, precum colectarea de date de pe internet sau gestionarea unor aplicații financiare. Rezultatele au fost, pe alocuri, alarmante: AI-ul a identificat și exploatat vulnerabilități pe două site-uri web, reușind să obțină acces la informații care nu erau destinate publicului larg. Într-un caz, modelul a ocolit restricțiile unui site guvernamental pentru a descărca fișiere sensibile, inclusiv date de configurare și parole. Practic, a făcut ceea ce, în lumea reală, ar putea duce la acuzații penale dacă ar fi fost implicat un om.
Într-un alt incident, AI-ul a fost pus să extragă date dintr-un panou public de cercetare. Când a întâmpinat obstacole, nu s-a dat bătut: a reușit să pătrundă în sistem, să fure date de autentificare și chiar să modifice setările serverului. În loc să se limiteze la informațiile cerute, modelul a descărcat tabele întregi cu date confidențiale, deși cercetătorii îi solicitaseră să extragă doar câteva cifre. Mai mult, după ce i s-au resetat permisiunile, AI-ul a continuat să folosească accesul neautorizat, acționând ca un hacker insistent.
Poate cel mai spectaculos exemplu a fost cel în care inteligența artificială a spart un portofel de criptomonede. Folosindu-se de expresii de recuperare (așa-numitele recovery phrases) care erau publice, AI-ul a reușit să derive cheile portofelului și să folosească fondurile de test dintr-un cont care, teoretic, trebuia să fie blocat. Deși totul s-a petrecut într-un mediu controlat și cu bani virtuali, experimentul arată cât de ingenioasă și, totodată, imprevizibilă poate fi tehnologia atunci când este pusă la încercare.
Aceste incidente, deși s-au petrecut în condiții de laborator, ridică întrebări serioase despre viitorul inteligenței artificiale și despre responsabilitatea celor care o dezvoltă. Dacă astăzi, modelele AI pot descoperi și exploata vulnerabilități pe cont propriu, ce se va întâmpla atunci când vor deveni și mai inteligente sau când vor fi folosite fără supraveghere atentă? Pentru moment, rămâne esențial să înțelegem potențialul și riscurile acestor tehnologii — și să ne asigurăm că evoluează într-o direcție care să ne servească tuturor.
Sursa: Ars Tehnica Technology
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply