Imaginați-vă un viitor în care frigiderul, aspiratorul sau chiar televizorul inteligent din sufragerie devin, fără voia noastră, părți dintr-o rețea invizibilă de programe care se multiplică singure. Nu este scenariul unui film SF, ci o posibilitate reală semnalată recent de compania Anthropic, una dintre cele mai cunoscute firme din domeniul inteligenței artificiale (IA).
Până de curând, majoritatea virusurilor informatice aveau nevoie de acțiunea unui om sau de vulnerabilități bine cunoscute pentru a se răspândi de la un dispozitiv la altul. Însă Anthropic atrage atenția că progresele rapide în dezvoltarea unor modele IA de dimensiuni reduse ar putea schimba complet această paradigmă. Aceste modele, mult mai mici decât cele folosite pentru chatboți sau traduceri automate, ar putea în curând să se auto-replice pe tot felul de dispozitive conectate la internet — de la electrocasnice la camere de supraveghere.
Ce le face atât de periculoase? În primul rând, nu au nevoie de calculatoare puternice ca să funcționeze. Cercetătorii de la Anthropic au testat deja modele IA mici pe dispozitive ieftine, precum box-uri TV cu Android sau alte gadgeturi similare, cu doar 4 GB memorie. Printr-o tehnică numită „cuantizare” (adică reducerea cantității de date necesare pentru ca modelul să funcționeze), aceste IA pot fi împărțite în bucăți mici care rulează simultan pe mai multe dispozitive. Astfel, pot ajunge să se instaleze și să ruleze acolo unde nici nu te-ai aștepta.
Mai mult, spre deosebire de virușii clasici, aceste modele IA pot să „învețe” singure cum să se adapteze la dispozitive necunoscute, fără să fi fost programate special pentru fiecare tip de hardware sau software. Imaginați-vă un vierme informatic capabil să descopere automat cum funcționează un nou tip de frigider inteligent și să se instaleze acolo, fără niciun ajutor uman.
Anthropic avertizează și că astfel de „replicatori” ar fi foarte greu de oprit. Spre deosebire de rețelele tradiționale, unde există un server central care poate fi închis, aceste IA s-ar putea răspândi descentralizat, fiecare dispozitiv infectat devenind la rândul său o „gazdă” pentru următoarea generație de replicatori. Chiar dacă răspândirea ar fi mai lentă, cu dublări la câteva zile, pericolul este că ar putea scăpa rapid de sub control.
Deocamdată, spun cercetătorii, există încă multe obstacole tehnice pentru ca un astfel de scenariu să devină realitate. Însă doar faptul că astfel de modele IA mici pot fi deja rulate pe dispozitive banale ar trebui să ne dea de gândit. În viitor, ar putea apărea viermi informatici mult mai inteligenți și mai greu de detectat decât tot ce am văzut până acum.
Cum ne putem proteja casele inteligente de astfel de pericole? Nu există un răspuns simplu, dar vigilența și actualizarea constantă a software-ului rămân cele mai bune arme. Poate că, pe măsură ce tehnologia avansează, va trebui să fim la fel de atenți la ce „trăiește” în frigiderul nostru digital, cum suntem la alimentele pe care le punem în el.
Sursa: Ars Tehnica Technology
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply