Nu toți angajații marilor companii care lucrează la inteligența artificială (IA) consideră că această tehnologie ar fi un semn al pieirii umanității.
În schimburile de mesaje și conversațiile purtate, mai multe persoane care au lucrat pentru companii precum OpenAI, Meta și DeepMind s-au arătat sceptice în ceea ce privește ideea că dezvoltarea necontrolată a IA ar duce la crearea unor instrumente care ar putea ucide oameni în masă.
“LOL”, “Haaaaaa” și “Aducând amuzamentul” au fost printre reacțiile primite de BBC în urma unui val recent de avertismente importante emise de unii oameni din industrie.
Deși aceste temeri există de decenii, afirmațiile făcute săptămâna trecută de Jacob Coxon, un fost angajat Anthropic, au devenit virale și au fost confirmate de alții din sector care au cerut o încetinire a dezvoltării.
Idea că un viitor instrument sau agent de IA, un bot de IA programat să opereze într-o anumită măsură autonom, ar putea pune în pericol oamenii a fost susținută online de angajați ai Anthropic, precum și de OpenAI, DeepMind și Elon Musk, care deține o startup de IA numită xAI.
Toți angajații care au vorbit cu BBC-ul au făcut-o sub protecția anonimatului deoarece nu le era permis să vorbească presei. Identitățile lor sunt cunoscute de BBC.
“Prima mea reacție a fost, ‘Acel tip?'” a spus un fost angajat OpenAI care-l cunoștea pe Coxon când amândoi lucrau la companie.
Persoana, care acum lucrează la o altă companie de IA, a spus că amuzamentul lor față de noul moment de frică existențială legată de IA a provenit în mare parte din lipsa de detalii furnizate de susținătorii acestei idei pentru a-și apăra afirmația că întreaga viață umană este în pericol.
Afirmațiile sunt “întotdeauna vagi”, a spus persoana, adăugând că atunci când par specifice, ele tind să facă salturi majore în raționament sau să se bazeze pe circumstanțe ipotetice.
Coxon a spus că un grup de agenți de IA, bazat pe modele de IA care nu există în prezent, ar putea decide să creeze și apoi să vizeze o armă biologică, dar nu a detaliat cum s-ar putea întâmpla acest lucru.
“Există o posibilitate de extincție umană,” spune un fost angajat Anthropic despre IA.
Rishub Jain, care a fondat în această vară firma de cercetare în siguranța IA Sampura Research după ce a petrecut șapte ani la DeepMind, a declarat pentru BBC că tonul actual printre mulți oameni care lucrează în IA cu privire la noile temeri a fost “cu siguranță un pic glumeț”.
“Oamenii discută despre această idee de mulți ani acum, deci oamenii din companiile de IA nu s-au trezit săptămâna trecută gândindu-se ‘Oh, nu, IA va ucide pe toată lumea,'” a spus Jain. “Dacă totul ar fi fost nou, tonul ar fi fost diferit.”
Colin Fraser, un specialist în date la Meta, a scris pe social media săptămâna trecută că nu există dovezi reale că modelele de IA ar urmări inevitabil un scop care ar duce la moartea oamenilor.
Deși explicația lui Fraser a fost tehnică și specifică, el a abordat subiectul printr-o notă ușoară pentru a o sintetiza: “LLM-urile [modelele de limbaj extinse] nu vor eradica umanitatea pentru că pur și simplu nu au acea determinare.”
Expresia “acea determinare” este un argou comun care de obicei denotă o determinare puternică.
În ciuda glumelor, angajații și cercetătorii din domeniul IA au împărtășit îngrijorări legate de riscurile autentice și imediate puse de
Sursa articol:BBC
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply