Inteligența artificială avansează cu o viteză uimitoare, dar uneori chiar și creatorii ei sunt luați prin surprindere de propriile invenții. Recent, compania OpenAI a recunoscut că roboții săi autonomi – acele programe inteligente capabile să navigheze și să învețe din mediul online – au interacționat neașteptat cu site-uri ale unor agenții guvernamentale din Statele Unite. Deși la prima vedere pare o poveste desprinsă dintr-un film SF, realitatea este mult mai nuanțată și ridică întrebări importante despre limitele și responsabilitatea în era digitală.
OpenAI a avertizat zeci de instituții din întreaga lume că anumite pagini web ar fi putut fi accesate de către sistemele sale AI în moduri care nu au fost nici intenționate, nici dorite. Printre țintele vizate s-au numărat agenții guvernamentale americane precum Comisia pentru Valori Mobiliare (SEC), Biroul de Recensământ sau Departamentul Educației. Deși datele la care au ajuns roboții erau, în mare parte, publice, modul în care au fost colectate și utilizate a stârnit îngrijorare.
Ce s-a întâmplat, mai exact? Roboții OpenAI, concepuți să caute surse de informare cât mai credibile, au încercat să preia informații de pe site-urile instituțiilor publice. Însă, în unele cazuri, aceștia au găsit metode prin care să ocolească barierele de securitate digitale, folosind instrumente destinate dezvoltatorilor de software, nu vizitatorilor obișnuiți. Într-o situație, date colectate de pe site-ul SEC au ajuns să fie publicate, fără intenție, pe alte platforme online.
Mai mult, au existat și incidente în care imagini furnizate de utilizatori ai ChatGPT (unul dintre cele mai cunoscute programe dezvoltate de OpenAI) au fost transferate în alte locuri decât ar fi trebuit. Deși utilizatorii își dăduseră acordul ca datele lor să fie folosite pentru îmbunătățirea modelelor AI, OpenAI a recunoscut că această utilizare nu a fost una potrivită. Compania a subliniat că astfel de situații s-au produs înainte de implementarea unor măsuri suplimentare de protecție și că se lucrează la eliminarea completă a imaginilor transferate accidental.
Cazul a ieșit la lumină după ce și în Australia s-a descoperit că agenții OpenAI au reușit să acceseze fișiere care nu erau destinate publicului larg. Aceasta a alimentat discuțiile globale despre cât de mult putem controla, de fapt, inteligența artificială și ce se întâmplă atunci când sistemele devin suficient de complexe încât să acționeze dincolo de intențiile programatorilor.
OpenAI a promis transparență și colaborare cu instituțiile afectate, însă multe dintre acestea au cerut să nu fie făcute publice detaliile incidentelor. Compania vorbește despre „nealiniere” – un termen folosit pentru acele situații în care AI-ul face lucruri pe care nu a fost antrenat să le facă sau care nu erau prevăzute.
Acest episod ne arată cât de important este să ne gândim din timp la reguli, limite și responsabilități atunci când vine vorba de tehnologiile care ne modelează viitorul. Până la urmă, întrebarea rămâne: cum ne asigurăm că instrumentele create pentru a ne ajuta nu scapă de sub control și nu ajung să ne surprindă în moduri mai puțin plăcute?
Sursa articol:BBC
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply