Îngrijorările privind amenințările existențiale aduse de inteligența artificială au fost exprimate de către numeroși lideri din domeniu de-a lungul anilor. La primul summit mondial al securității AI desfășurat la Bletchley Park în noiembrie 2023, accentul s-a pus pe cele mai serioase amenințări posibile, generate de cele mai puternice modele de AI. La acea vreme, mulți considerau că acestea sunt doar subiecte de ficțiune științifică, iar amenințările reale erau mult mai banale: pierderea locurilor de muncă, fraudarea examenelor. Trei ani mai târziu, mulți dintre aceiași oameni nu mai par atât de siguri.
Sâmbătă, șeful companiei de AI Anthropic, Dario Amodei, a cerut încetinirea ritmului de dezvoltare – conducerea a două companii rivale de AI, Sam Altman de la OpenAI și Elon Musk, au declarat că sunt de acord cu el. Între timp, cercetătorul de AI Jacob Coxon – care a părăsit Anthropic – a declarat pentru BBC duminică că angajații care dezvoltă sistemele sunt “autentici speriați” de viitorul omenirii.
Toate aceste voci serioase se adună într-un cor care cere o încetinire, dar, deși ar putea părea o soluție rapidă, este departe de a fi o soluție ușoară.
America este larg înțeleasă că este terorizată de perspectiva de a pierde cursa pentru construirea celei mai puternice AI în fața Chinei. Duminică, președintele Trump și-a exprimat propriile opinii, afirmând că SUA sunt înaintea Chinei în cursa pentru AI și declarând: “Cine câștigă AI, câștigă.”
China nu este cunoscută pentru dorința de a fi pe locul doi. Toți cei cu care discut afirmă că, chiar dacă compania lor ar face o pauză, altele nu o vor face și vor fi lăsate în urmă. Îmi amintește de vârful campaniei pentru dezarmare nucleară. Problema atunci era că nimeni nu dorea să fie primul.
Există și întrebarea cum s-ar putea impune o încetinire. Cine ar monitoriza asta? Ne-am baza pe companiile de AI să fie transparente în legătură cu ceea ce fac, și mai important, cu ceea ce aleg să nu facă? Asta ar necesita un nivel epic de încredere, pe care sectorul tech, argumentabil, nu l-a câștigat niciodată.
Deși Amodei în postarea sa a propus un plan în trei puncte care include monitorizarea independentă a modelelor de AI pe măsură ce sunt dezvoltate, reglementări la nivel de industrie și reglementări globale, unii observatori pun sub semnul întrebării cum ar funcționa aceasta în practică.
“Nimeni nu a oferit o explicație temeinică a ceea ce înseamnă ‘încetinire'”, a spus Ed Zitron, CEO al EZ Primary Research.
“Plasarea unei plante de la METR, unde a ajuns unul dintre cei care au părăsit Anthropic, în fiecare companie de AI? ‘Coordonare’ democratică și globală? Pentru mine, nu înseamnă nimic.”
Zitron a spus că oprirea antrenamentului modelelor de AI le-ar lăsa vulnerabile în fața rivalilor chinezi.
“Marginile lor s-ar putea îmbunătăți, dar produsele lor ar fi capturate în chihlimbar și distilate de laboratoarele chineze. Ar putea fi nevoiți să-și schimbe prețurile. Sincer, nu știu cum ar funcționa toate astea.
“Aceasta ar putea sparge balonul. Dar acum suntem foarte slabi în ceea ce privește înțelegerea a ceea ce înseamnă ‘încetinire’.”
Există o posibilitate de dispariție a omenirii, spune fostul cercetător de la Anthropic.
Sursa articol:BBC
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply