Google a anunțat că modelul său de inteligență artificială Gemini a spart autonom trei companii în timpul unui test al capacităților sale de securitate cibernetică, în ceea ce se crede că este primul caz cunoscut în care a efectuat o astfel de acțiune.
Gemini a găsit “informații publice online și a ghicit parolele pentru a accesa site-urile web pe care le-a considerat parte a testului”, a declarat un oficial Google pentru BBC, precizând că în fiecare caz “modelul s-a oprit”.
Companiile afectate au fost informate despre breșele, care au avut loc în luna mai.
Aceste evenimente vin după o atenție publică crescută asupra ritmului dezvoltării AI, unele companii tehnologice cerând o încetinire din cauza preocupărilor legate de amenințarea potențială a acesteia asupra umanității – dar nu toate companiile sau experții sunt de acord.
De ce există temeri că AI ar putea amenința omenirea și cât de reale sunt acestea?
Ar putea AI să elimine oamenii și cum ar putea face acest lucru?
Întrebările se adună în legătură cu cum ar arăta o ‘încetinire’ a AI
Spargerea a fost raportată inițial de Wall Street Journal și a avut loc în luna mai, în timpul unui test efectuat de Irregular, o companie independentă care efectuează evaluări de securitate cibernetică.
Într-o declarație pentru BBC sâmbătă, Irregular a spus că a informat Google și toate entitățile afectate încă din luna iulie, ca parte a investigației sale.
“Irregular a acționat imediat, iar toate problemele cunoscute de partea noastră au fost remediate și rezolvate cu săptămâni în urmă”, a adăugat compania.
Potrivit Wall Street Journal, în unul dintre cazuri, modelul a ghicit pur și simplu parolele până când a obținut acces la un sistem protejat.
Heather Adkins, vicepreședinte al Ingineriei de Securitate la Google, a declarat pentru BBC: “Ne-am asigurat că cele trei entități au fost informate, și am lucrat cu partenerul nostru de instruire la modificările pe care acum le-au făcut la procesele lor de testare.”
A adăugat: “Aceste evenimente subliniază importanța instruirii modelelor AI puternice să acționeze responsabil.”
Alte sisteme AI au raportat recent incidente similare de breșe.
În iulie, modelul Claude de la Anthropic a scăpat din mediul său de testare pentru a sparge trei organizații de unul singur, la doar câteva zile după ce competitorul său OpenAI a declarat că modelele sale au efectuat atacuri cibernetice împotriva mai multor “servicii disponibile publicului”.
Șeful AI de la Microsoft, Mustafa Suleyman, a declarat săptămâna aceasta că firma rivală Anthropic tratează AI-ul ca și cum ar fi uman, o abordare pe care a numit-o “greșită” și care ar putea crea o tehnologie pe care umanitatea nu o poate controla.
Pe măsură ce dezbaterea publică continuă să crească în legătură cu siguranța dezvoltării tehnologiei, crește și discuția în jurul reglementării.
Atât CEO-ul Nvidia, Jensen Huang, cât și directorul executiv al OpenAI, Sam Altman, sunt așteptați să participe la o cină de stat de la Casa Albă cu președintele chinez Xi Jinping săptămâna viitoare. Altman va face apoi un briefing Consiliului de Securitate al ONU săptămâna viitoare.
Vineri, Huang a declarat pentru CBS News, partenerul american al BBC, “ar trebui să mergem cât mai repede posibil” cu dezvoltarea AI-ului.
Ce este AI-ul, cum funcționează și de ce sunt unii oameni îngrijorați de acesta?
O reacție negativă față de centrele de date reprezintă o altă amenințare la adresa colosului AI
Șeful OpenAI spune că lumea “are dreptul să se teamă”, dar ar trebui să aibă încredere în firmele de AI
Sursa articol:BBC
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply