Șeful departamentului de Inteligență Artificială de la Microsoft a avertizat că, fără măsuri de siguranță adecvate, dezvoltarea IA ar putea duce la apariția unei noi “specii de siliciu” care să concureze cu oamenii.
Mustafa Suleyman a declarat că firma concurentă Anthropic tratează IA ca și cum ar fi umană, o abordare pe care a numit-o “greșită” și care ar putea crea tehnologie pe care umanitatea nu o poate controla.
Într-o discuție pentru programul Today al BBC, directorul executiv a spus că este “corect” ca oamenii să fie îngrijorați de IA, dar există “lucruri foarte practice pe care le putem face” pentru a o controla.
Comentariile sunt cele mai recente într-o serie de avertismente dure din partea industriei de IA cu privire la posibilele pericole ale tehnologiei. Anthropic a fost contactată pentru a comenta.
De ce există temeri că IA ar putea amenința umanitatea, și cât de reale sunt acestea?
Șeful OpenAI spune că lumea “are dreptul să fie speriată”, dar ar trebui să aibă încredere în firmele de IA
Într-o discuție pentru programul Today de joi, Suleyman a avertizat împotriva continuării creării de sisteme de IA capabile să-și stabilească propriile obiective, să câștige bani și să dețină active.
Asta ar însemna “practic să semănăm o nouă specie de siliciu”, a spus el, care ar putea “fără îndoială să concureze cu noi pentru resurse, indiferent cât de mult îi pasă de umanitate și ne iubește”.
Comentariile lui Suleyman către BBC vin în urma unui eseu pe care l-a publicat mai devreme în această săptămână, în care a criticat abordarea Anthropic de a-și instrui modelul de IA Claude, în ciuda faptului că l-a lăudat pe șeful Dario Amodei și echipa sa ca fiind “oameni cu onestitate intelectuală”.
În acel eseu, el a criticat Anthropic pentru faptul că îi învață IA să aibă calități asemănătoare cu cele umane, o practică cunoscută sub numele de antropomorfizare, care, potrivit lui, face ca Claude să pară că are propriile dorințe, valori și sentiment de sine.
De asemenea, a avertizat că firmele de tehnologie riscau să creeze ceva “imposibil” de controlat tratând tehnologia ca și cum ar fi umană.
“Acele IA-uri nu sunt conștiente”, a scris el.
“Ele nu simt, nu experimentează, nu suferă. Ele nu au preferințe innascute sau motivații subiacente.
“Ele sunt motoare de completare a secvențelor, interne goale, concepute pentru a urma instrucțiunile și a îndeplini obiectivele stabilite de oameni.”
Dario Amodei este șeful firmei de IA Anthropic, pe care Suleyman a criticat-o pentru tratarea IA-ului său ca și cum ar fi uman
Șeful Microsoft a spus că este nevoie de o mai mare transparență în ceea ce privește modul în care sistemele de IA sunt instruite și evaluate.
Acest lucru, a spus el, include o supraveghere independentă a comportamentului IA și instrumente mai puternice pentru a monitoriza și controla tehnologia.
“Nu trebuie să ne lăsăm purtați de mână către o decizie pe care mai târziu să regretăm amarnic”, a scris el.
Dame Wendy Hall, profesoară de Informatică la Universitatea din Southampton, a descris comentariile drept “genul de conversație pe care ar trebui să o avem la nivel internațional”, contrastându-le cu “histeria” din partea unor companii de IA care, spune ea, nu fac decât să “îi sperie pe toți”.
Întrebarea cu privire la cât de multă autonomie ar trebui să aibă sistemele de IA împarte tot mai mult industria.
Sursa articol:BBC
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply