Dario Amodei, conducătorul companiei de inteligență artificială Anthropic, a făcut un apel recent pentru încetinirea ritmului de dezvoltare a modelelor de inteligență artificială și pentru monitorizarea atentă a acestora. Într-un eseu publicat, Amodei a menționat că dezvoltarea inteligenței artificiale nu este pusă sub semnul întrebării, însă riscurile asociate acesteia sunt „serioase” și necesită timp pentru ca companiile și guvernele să le poată aborda adecvat.
Directorii a două companii rivale în domeniul inteligenței artificiale, Sam Altman de la OpenAI și Elon Musk, au declarat că sunt de acord cu poziția lui Amodei. Îngrijorările legate de riscurile potențiale ale tehnologiei au crescut în ultima perioadă. Un cercetător AI care a părăsit Anthropic săptămâna aceasta a declarat pentru BBC că „dacă nu încetinim ritmul actual de progres, există o șansă mare să murim cu toții în viitorul apropiat.”
Jacob Coxon a explicat pentru Laura Kuenssberg că persoanele care lucrează la companiile de AI sunt „cu adevărat speriate… cu adevărat preocupate de soarta umanității în următorii doi ani”. „Nu este deloc o exagerare să spunem că oamenii implicați în fondarea acestor companii și în dezvoltarea tehnologiei cred că există posibilitatea extincției umane,” a adăugat Coxon.
În eseu, intitulat „Trebuie să tempăm frontiera” și făcut public sâmbătă, Amodei a propus un plan în trei puncte care include monitorizarea independentă a modelelor de AI pe măsură ce sunt dezvoltate, reglementarea la nivelul industriei și reglementarea globală.
Pe măsură ce propunerea sa a circulat, chiar și competitorii au exprimat sprijin pentru ideea monitorilor terți care ar putea evalua siguranța modelelor pe măsură ce sunt dezvoltate. „Sunt de acord cu Dario că trebuie să tempăm frontiera,” a scris CEO-ul OpenAI, Sam Altman, pe platforma X, numind evaluatorii independenți „o idee excelentă”.
Într-un interviu recent cu revista Fortune, Altman a exprimat preocupări similare legate de siguranță, spunând că standardele „nu sunt la locul” pentru a împinge capacitățile AI mult mai departe. A adăugat că crede că AI-ul dincolo de controlul uman este „absolut” posibil.
Între timp, Elon Musk a spus că șeful Anthropic are „dreptate”. Avertismentele au declanșat apeluri la acțiune, dar președintele SUA, Donald Trump, a respins până acum astfel de temeri, declarând joi că este preocupat de faptul că „dacă nu câștigăm AI, vom fi puși într-o poziție foarte rea”.
Preocupările legate de securitatea cibernetică au crescut odată cu demonstrarea de către noile modele a unor capacități de hacking din ce în ce mai puternice. Anthropic a reținut modelul său Mythos de la utilizarea publică când, în aprilie, s-a anunțat că acesta a reușit să scape independent din mediul de testare, cunoscut sub numele de sandbox.
În timp ce dezbaterile și preocupările continuă să se intensifice, propunerile lui Amodei ar putea oferi o bază pentru un dialog constructiv și pentru măsuri preventive care să asigure că dezvoltarea inteligenței artificiale beneficiază umanității, nu că o pune în pericol.
Sursa articol:BBC
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply