Regele Charles a avertizat executivii din domeniul Inteligenței Artificiale cu privire la “pericolele existențiale” pe care le implică tehnologia căzând în mâinile greșite.
Acesta și-a exprimat preocupările la o întâlnire pe care a convocat-o la Dumfries House din Ayrshire pentru a discuta modul în care tehnologia poate fi folosită în beneficiul societății.
La întâlnire au participat Kanishka Narayan, Ministru pentru AI al Regatului Unit, consilierul Papei și reprezentanți ai giganților din domeniul AI precum Nvidia, OpenAI și Anthropic.
Aceste avertismente vin în contextul unei serii de avertismente recente din partea persoanelor din industrie cu privire la capacitățile în continuă evoluție ale modelelor avansate sau “frontiere” de AI și la necesitatea reglementării pentru a le ține sub control.
“Cei care au creat aceste tehnologii avertizează acum tot mai mult că AI riscul să dezvolte capacități mai întunecate – poate chiar de a lua viața,” le-a spus regele executivilor.
Acesta a menționat că pare să existe o “urgență” în “a lua în considerare în mod adecvat pericolele existențiale ale unor astfel de tehnologii căzând în mâinile greșite și fiind folosite în moduri potențial catastrofale”.
“Sarcina voastră nu este doar să avansați tehnologia, ci să vă asigurați că rămâne ferm în slujba omenirii, comunității și lumii naturale,” le-a spus grupului.
Summitul a fost convocat pentru a analiza dacă poate fi dezvoltat un “set comun de principii” pentru a “ghida viitoarea aplicare” a AI.
Jensen Huang, directorul executiv al Nvidia, a fost printre liderii de top din industrie prezenți.
Nvidia este un jucător central în infrastructura AI, furnizând cipuri dezvoltatorilor principali de modele AI, inclusiv OpenAI și Meta.
Este și cea mai valoroasă companie din lume, cu o valoare de piață de aproximativ 5,15 trilioane de dolari.
Huang le-a spus celor prezenți că crede că siguranța este “de primă importanță”, adăugând că companiile ar trebui să retragă un produs și să “continue să îl proiecteze” dacă nu este suficient de sigur.
Șeful Nvidia a subliniat, de asemenea, valoarea modelelor deschise – sisteme care oferă utilizatorilor acces direct la software – ca modalitate de “a asigura că oamenii și țările nu sunt lăsate în urmă”.
Acesta a menționat că aceste sisteme trebuie, de asemenea, protejate astfel încât “cercetătorii, universitățile, start-up-urile și țările” să poată dezvolta aplicații “pe care niciunul dintre noi nu le-ar fi imaginat singur”.
“Să conducem cu optimism responsabil, să construim AI în siguranță și securitate, să o deschidem unui număr mai mare de oameni, să ne mărim ambițiile și să rezolvăm problemele care contează pentru lume,” a adăugat Huang.
Între timp, Sir Demis Hassabis, care a cofondat laboratorul de AI DeepMind din Marea Britanie – ulterior achiziționat de Google – a oferit o perspectivă mai precaută asupra ritmului de dezvoltare.
Acesta a spus că inteligența artificială generală – sisteme despre care se crede că ar putea fi la fel de bune sau chiar mai bune decât oamenii la mai multe sarcini – este “probabil doar la câțiva ani distanță” și ar putea avea un impact “de zece ori mai mare decât Revoluția Industrială”.
Șansele ca ceva să meargă greșit sunt “cu siguranță nenule”, a adăugat Sir Demis.
Dar acesta a pledat pentru “o cale de mijloc rațională”, spunând că omenirea ar putea aborda riscurile dacă i se oferă colectiv spațiul și timpul necesar pentru a le atenua.
“Viitorul nu este încă scris,” le-a spus delegaților regelui.
Sarah Fri
Sursa articol:BBC
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply