Șeful OpenAI, compania care a creat ChatGPT, susține că oamenii ar trebui să aibă mai multă încredere în companiile de inteligență artificială pentru a menține tehnologia în siguranță, în contextul îngrijorărilor tot mai mari ale publicului cu privire la riscuri.
“Oamenii ar trebui să aibă încredere că vom face lucrul corect pentru că este corect și simțim amploarea acestei situații,” a declarat Sam Altman marți, în cadrul unei conferințe desfășurate la San Francisco.
El a recunoscut că oamenii au motive întemeiate să fie îngrijorați de inteligența artificială, pe măsură ce capacitatea acestor instrumente a avansat rapid.
Criticii susțin însă că firmele nu pot fi lăsate să se autoreglementeze, cu senatorul de stânga Bernie Sanders și Steve Bannon, fost consilier al președintelui american Donald Trump, printre cei care cer o mai mare reglementare a inteligenței artificiale.
Chiar Trump însuși a criticat apelurile pentru mai multe “bariere de siguranță” în tehnologia în mișcare rapidă, numind temerile legate de siguranța inteligenței artificiale un “șarlatanism”.
El a afirmat că singurele “bariere de siguranță” necesare pentru inteligența artificială sunt un președinte “puternic și inteligent”.
Comentariile lui Altman de marți au fost făcute în cadrul unei apariții la o conferință anuală organizată de firma de software Salesforce.
“Nu mai este nevoie de atât de multă imaginație ca în trecut pentru a ne imagina cum ar putea merge prost lucrurile,” a spus el. “Cred că lumea are motive întemeiate să se teamă de asta.”
Totuși, șefii din domeniul inteligenței artificiale au recunoscut și ei că poate fi dificil să reglementezi o tehnologie care evoluează atât de rapid.
Într-un interviu cu Axios publicat pe 3 septembrie, Altman a declarat că se aștepta ca Congresul să creeze un “cadru de bază” pentru inteligența artificială avansată după mărturia sa din 2023, dar acest lucru nu s-a întâmplat încă.
El a sugerat că legislatorii au dificultăți în a ține pasul cu tehnologia și în a o reglementa fără a “încetini inovația”.
O nouă legislație privind siguranța inteligenței artificiale nu este probabil să apară prea curând din partea Congresului SUA, chiar dacă legislatorii s-au întors din vacanța de vară luni.
Nu există un consens în cadrul ambelor partide americane cu privire la modul în care ar trebui să se reglementeze tehnologia – și Camera Reprezentanților se pregătește să intre din nou în vacanță la sfârșitul săptămânii, înainte de alegerile intermediare din noiembrie.
De ce Trump este atât de implicat în inteligența artificială în ciuda avertismentelor
Comentariile lui Altman de marți au fost primele oară când a vorbit public după ce un post făcut de un cercetător care a renunțat la firma de inteligență artificială Anthropic a devenit viral săptămâna trecută. Cercetătorul a afirmat că inteligența artificială ar putea “ucide toți oamenii” până la sfârșitul deceniului dacă nu este controlată.
Câțiva alți șefi și experți în domeniul inteligenței artificiale au răspuns afirmând că sunt de acord cu această evaluare, deși nu au explicat cum au ajuns la aceste concluzii sau cum exact ar putea realiza inteligența artificială o astfel de acțiune.
După comentariile lui Altman, Mark Zuckerberg a scris pe X că fiecare firmă de inteligență artificială are capacitatea și stimulul “de a-și asuma propriile acțiuni” pentru siguranță.
“Orice laborator care nu se concentrează pe aliniere va fi depășit,” a scris directorul general al Meta.
“Laboratoarele se confruntă cu o responsabilitate semnificativă dacă modelele lor cauzează daune, astfel că au un puternic stimulent să prevină acest lucru.”
Alinierea este un domeniu care își propune să integreze ideile și principiile etice umane în inteligența artificială. Cu alte cuvinte,
Sursa articol:BBC
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply