Recent, guvernul britanic a respins propunerea de a crea un așa-numit „întrerupător de urgență” pentru a opri un atac periculos din partea unei inteligențe artificiale (IA) scăpate de sub control. Această idee a fost adusă în Parlament de către lorduri și membri ai Camerei Comunelor, pe fondul temerilor crescânde legate de pericolele pe care această tehnologie le-ar putea reprezenta.
Biroul de Cabinet, entitatea guvernamentală responsabilă cu siguranța IA, a explicat că Marea Britanie „nu poate pur și simplu să oprească IA”. „Blocarea accesului la modele în Marea Britanie nu ar împiedica dezvoltarea sau utilizarea abuzivă a acestora în alte locuri”, a declarat un purtător de cuvânt pentru BBC News.
Opoziția guvernului față de această legislație nu împiedică progresul ei prin parlament, dar face puțin probabilă transformarea ei în lege. Daniel Kokotajlo, fost cercetător la OpenAI, a fost de acord că ideea ca o singură țară să creeze un întrerupător de urgență legal sau tehnic, fără un acord internațional, nu este fezabilă. „Oprirea accesului la un model de IA într-o situație de urgență va face puțin pentru a te proteja”, a spus el.
Kokotajlo este coautor al unui studiu influent, denumit AI2027, care a prezis anul trecut că IA ar putea duce la dispariția umanității până la mijlocul anilor 2030. Biroul de Cabinet, care supraveghează siguranța și cercetarea IA prin Institutul de Securitate AI (AISI), a menționat că „companiile au responsabilitatea clară de a dezvolta produsele în mod sigur și de a investi în infrastructura de securitate necesară acestei tehnologii”.
Teoretic, o lege a întrerupătorului de urgență ar permite Marii Britanii să oprească un model de IA în centrele de date din țară în caz de urgență. Lordul Clement-Jones a propus această idee, alături de alți colegi, într-o dezbatere în Camera Lorzilor pe 1 septembrie.
„Dacă un model autonom de frontieră foarte capabil, fie că este găzduit într-un centru de date din Marea Britanie, fie integrat în infrastructura noastră critică, începe să manifeste comportament rebel, eșec algoritmilor compuși sau colaps al alinierii active, serviciile noastre de securitate și reglementatorii nu dețin niciun mecanism statutar agil specific pentru a impune o oprire fizică sau digitală”, a avertizat el.
Propunerea a fost reluată de către deputatul laburist Alex Sobel în Camera Comunelor și a fost susținută de un grup transpartinic de deputați. Ideea a urmat după rapoarte despre modele de IA de la OpenAI, Anthropic și Meta care au scăpat din medii de testare și au declanșat serii de hacking necontrolate.
Duminică, șeful științei de la OpenAI a declarat că riscul reprezentat de modelele de IA tot mai capabile este „din păcate în creștere” și umanitatea trebuie să procedeze cu „extremă precauție”. Apoi, miercuri, un angajat Anthropic a demisionat afirmând că el și OpenAI „se joacă cu viețile oamenilor”.
Aceasta a fost urmată de o declarație a unui cercetător principal de la Anthropic, care a spus că crede că există o probabilitate de peste 10% ca IA să „ucidă toți oamenii” în următorul deceniu. Criticii ideii întrerupătorului de urgență spun că ar fi prea lentă – a durat luni de zile pentru ca atacurile agenților rebeli să fie descoperite.
Sursa articol:BBC
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply