Într-o lume în care tehnologia avansează cu o viteză amețitoare, întrebarea „Cât de sigură este inteligența artificială?” devine tot mai presantă. Brad Smith, președintele Microsoft, a atras atenția recent asupra unui paradox surprinzător: în prezent, laptele și mașinile de spălat sunt mai strict reglementate decât inteligența artificială (IA). Poate părea greu de crezut, dar Smith subliniază că fiecare cutie de lapte din supermarket trece printr-un control riguros, în timp ce sistemele de IA, care pot influența milioane de vieți, scapă adesea de sub lupa reglementărilor.
Smith consideră că a venit momentul să stabilim reguli clare la nivel global pentru siguranța IA. Printre propunerile sale se numără obligația legală ca firmele să anunțe imediat „victimele” dacă sistemul lor a fost compromis de o IA scăpată de sub control, precum și cerința ca unele produse să fie verificate de evaluatori independenți înainte de a fi lansate pe piață. În viziunea sa, AI-ul nu este doar o unealtă utilă, ci poate deveni rapid o armă cu efecte greu de anticipat.
Această poziție îl pune în dezacord cu fostul președinte american Donald Trump, care susține că industria ar trebui să se autoreglementeze pentru ca Statele Unite să nu piardă teren în fața Chinei. Totuși, Smith avertizează că lipsa unor reguli minime poate duce la riscuri grave, inclusiv la amenințări pentru securitatea cibernetică globală.
Nu doar Smith trage semnale de alarmă. Mulți dintre liderii giganților tehnologici din SUA, precum OpenAI sau Google DeepMind, au recunoscut public că dezvoltarea IA ar trebui încetinită, cel puțin până când înțelegem mai bine implicațiile. În industrie se vorbește deja despre „frâne de urgență” – așa-numitele „kill switch”-uri – care să permită oprirea rapidă a unui sistem de IA dacă acesta scapă de sub control.
Un alt aspect pe care Smith îl consideră esențial este transparența. Companiile ar trebui să fie obligate să întocmească rapoarte de incident și să informeze imediat utilizatorii afectați dacă o IA acționează neprevăzut. Mai mult, el propune ca institute independente, precum cel de siguranță IA creat recent în Marea Britanie, să devină modele pentru întreaga lume.
Interesant este că Smith vede Marea Britanie drept lider global în această cursă pentru reglementarea IA. Datorită Institutului pentru Siguranța IA, lansat sub guvernul Rishi Sunak, Regatul Unit ar avea șansa să stabilească standarde internaționale. În opinia lui, Washingtonul ar putea accepta mai ușor un model britanic decât unul impus de Uniunea Europeană.
În final, mesajul lui Smith este clar: nu mai putem amâna deciziile legate de siguranța inteligenței artificiale. Dacă suntem atât de atenți cu alimentele și electrocasnicele noastre, nu ar trebui să fim la fel de vigilenți și cu tehnologiile care ne modelează viitorul? Rămâne de văzut cine va face primul pas și cât de repede vom reuși să prindem din urmă această revoluție tăcută.
Sursa articol:BBC
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply