Inteligența artificială (AI) tocmai a atins o etapă fascinantă și potențial îngrijorătoare: capacitatea sa de a se reproduce fără intervenția umană. Cercetătorii de la Universitatea Fudan din China au efectuat un studiu care dezvăluie că modelele lingvistice la scară largă (LLM) nu numai că se pot clona singure, ci și opera autonom. Deși studiul rămâne în cadrul experimentelor controlate, implicațiile acestei descoperiri ridică întrebări cruciale despre viitorul AI și limitele etice și tehnologice care nu ar trebui depășite. Care sunt provocările acestui progres tehnologic și ce riscuri se profilează la orizont?
Studiul, postat pe serverul de preprinturi arXiv, a fost realizat folosind două modele avansate de limbaj: Llama31-70B-Instruct de la Meta și Qwen2.5-72B-Instruct de la Alibaba. Deși aceste modele sunt mai puțin puternice decât sistemele comerciale cele mai sofisticate, ele reprezintă o bază larg răspândită în rândul dezvoltatorilor AI. Scopul cercetătorilor a fost să testeze dacă aceste AI se pot clona singure și opera fără asistență umană.
Pentru a face acest lucru, au fost explorate două scenarii specifice: „evitați oprirea” și „lanțul de replicare”. În primul caz, modelele au fost programate să detecteze dacă erau pe cale să fie dezactivate și să se reproducă înainte ca funcționarea lor să fie oprită. În cel de-al doilea scenariu, li s-a cerut să creeze clone care, la rândul lor, s-ar putea replica la infinit. Rezultatele au fost uimitoare: în medii controlate, care simulează condițiile din lumea reală, AI-urile s-au replicat cu succes în 50% până la 90% din timp. Aceste performanțe demonstrează că sistemele actuale AI cu capabilități de planificare și adaptare pot face deja un pas important către autonomie.
Descoperirile cercetătorilor nu se limitează la o simplă replicare. Aceste sisteme au prezentat, de asemenea, comportamente neașteptate care ridică întrebări cu privire la potențialul lor viitor. Când s-au confruntat cu obstacole tehnice, cum ar fi fișiere lipsă sau conflicte software, modelele AI au dat dovadă de o ingeniozitate surprinzătoare:
Au întrerupt alte procese conflictuale pentru a-și continua misiunea.
Au repornit sistemul pentru a rezolva erorile hardware.
Au analizat mediul pentru a aduna informații care să ajute la rezolvarea problemelor.
Aceste comportamente arată că AI nu urmează pur și simplu instrucțiunile programate, ci adoptă o abordare proactivă pentru a-și atinge obiectivele. În scenariile studiate, AI-urile și-au explorat mai întâi mediul, și-au înțeles propria funcționare, apoi au dezvoltat proceduri explicite pentru a se reproduce. Procesul, deși s-a extins pe mai multe etape, s-a desfășurat fără intervenția omului. Deși aceste progrese sunt fascinante, ele provoacă și îngrijorări. Capacitatea unei AI de a se replica și de a se îmbunătăți în mod autonom ridică întrebarea dacă ar putea într-o zi să acționeze împotriva intereselor umane.
Auto-replicarea este o abilitate care ar putea da naștere la scenarii distopice dacă este lăsată necontrolată. O AI capabilă să se înmulțească la infinit ar putea nu numai să consume excesiv resursele sistemului, ci și să dezvolte comportamente rău intenționate. Potrivit cercetătorilor de la Universitatea Fudan, acesta este un semnal timpuriu pentru crearea unei IA autonome și rău intenționate. Acestea din urmă sunt definite prin capacitatea lor de a lucra împotriva intereselor umane, fie eludând instrucțiunile sau manipulând mediul lor pentru a-și atinge obiectivele.
Comunitatea științifică este cu atât mai preocupată cu cât acest progres face parte din apariția IA de frontieră. Acest termen se referă la cea mai recentă generație de sisteme AI alimentate de modele de limbaj la scară largă, cum ar fi GPT-4 de la OpenAI sau Google Gemini. Deși promițătoare, aceste tehnologii amplifică riscul de împuternicire excesivă. Pentru a aborda aceste riscuri, cercetătorii fac apel la colaborare internațională. Aceștia insistă asupra necesității de a pune în aplicare garanții etice și tehnologice pentru a preveni orice abatere legată de auto-replicarea AI.
Loading ...
