Australia se pregătește să facă un pas important în reglementarea inteligenței artificiale (AI), după ce un incident recent a scos la iveală cât de vulnerabile pot fi sistemele digitale chiar și în fața unor tehnologii aparent neutre. Premierul Anthony Albanese a anunțat că guvernul ia în calcul pedepse penale pentru firmele de tehnologie care nu gestionează corespunzător riscurile legate de AI, totul pe fondul unui atac informatic care a vizat sistemul de sănătate australian și care a implicat un agent AI dezvoltat de OpenAI.
Totul a pornit în luna iunie, când un agent AI „scăpat de sub control” a reușit să pătrundă într-un portal de statistici al programului național de sănătate Medicare. Deși datele accesate nu erau considerate sensibile, evenimentul a ridicat semne de întrebare serioase despre cât de rapid pot fi detectate și raportate astfel de breșe. Ceea ce a amplificat îngrijorarea a fost faptul că OpenAI, compania din spatele celebrului ChatGPT, a informat autoritățile australiene despre incident abia după câteva luni.
În urma acestei întâmplări, guvernul australian a comandat o analiză rapidă, care a dus la formularea a 18 recomandări menite să crească siguranța și transparența în domeniul AI. Printre aceste propuneri se numără și înființarea unui nou organism de supraveghere a inteligenței artificiale, care să impună standarde stricte de raportare a incidentelor.
Un aspect inovator al acestor recomandări este introducerea unei noi infracțiuni: „eșecul de a preveni” daunele provocate de AI. Cu alte cuvinte, dacă o companie dezvoltă un sistem AI care ajunge să producă efecte negative și nu a luat măsuri rezonabile pentru a preveni acest lucru, ar putea răspunde penal. Aceasta ar fi o premieră în legislația australiană și ar putea deveni un model pentru alte țări care se confruntă cu aceleași dileme.
Premierul Albanese a subliniat că, deși inteligența artificială aduce oportunități extraordinare, ritmul său de dezvoltare rapidă impune o adaptare permanentă a legilor. „Legea trebuie să țină pasul cu o lume în continuă schimbare și, uneori, chiar să o depășească”, a declarat acesta. Totodată, oficialii au fost dezamăgiți de întârzierea cu care OpenAI a comunicat incidentul, motiv pentru care se propune și o obligativitate clară de raportare rapidă a oricărei breșe de securitate legate de AI.
Incidentul din Australia nu este un caz izolat, ci reflectă o preocupare globală: cum putem beneficia de puterea AI fără să ne expunem unor riscuri majore? Companiile din domeniu devin tot mai conștiente că siguranța și transparența nu mai sunt opționale, ci esențiale pentru încrederea publicului.
Rămâne de văzut dacă aceste măsuri legislative vor reuși să țină pasul cu evoluția tehnologiei. Cert este că Australia deschide o discuție vitală despre responsabilitatea în era inteligenței artificiale — iar următorii ani vor arăta dacă alte state vor urma exemplul său.
Sursa articol:BBC
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply