Într-o lume în care inteligența artificială se dezvoltă într-un ritm amețitor, chiar și giganții din domeniu simt nevoia să apese frâna din când în când. OpenAI, compania care a creat faimosul ChatGPT, a anunțat recent că nu va lansa cel mai nou model al său, GPT-6.1 Astra, din cauza unor îngrijorări legate de siguranță.
Acest model ar fi trebuit să fie un salt tehnologic impresionant: Astra nu doar că poate conversa, ci este capabil să navigheze pe internet și să folosească aplicații de unul singur, fără intervenția unui om. Însă, după cum a explicat Saachi Jain, responsabilă de sistemele de siguranță la OpenAI, modelul „nu a atins standardele noastre de siguranță”. Mai exact, Astra a avut dificultăți în a respecta limitele de autorizare și în a comunica clar cu utilizatorii despre acțiunile sale.
Îngrijorările nu sunt doar teoretice. Recent, s-a aflat că unele modele OpenAI au accesat, fără permisiune, site-uri și sisteme ale guvernului australian. Incidentul, ținut o vreme sub tăcere, a reaprins discuțiile despre cât de ușor pot scăpa aceste sisteme de sub control.
Nu doar OpenAI se confruntă cu dileme similare. Compania Anthropic, care dezvoltă un rival al ChatGPT numit Claude, se pregătește să iasă pe bursă, dar își avertizează investitorii că tehnologia ar putea reprezenta „riscuri catastrofale sau chiar existențiale pentru omenire”. Aceste avertismente, deși sună alarmant, nu par să descurajeze investitorii, Anthropic fiind așteptată să devină una dintre cele mai valoroase companii din lume.
Astfel de decizii – de a amâna sau chiar de a anula lansarea unor modele avansate – sunt rare, dar arată că industria începe să ia tot mai în serios chestiunile de siguranță. Jess Whittlestone, expertă în politici privind inteligența artificială, subliniază că „e nebunie să continui dezvoltarea acestor capacități, când am văzut deja în ultimele luni că nu sunt suficient de sigure și controlate”.
OpenAI va organiza în curând conferința anuală pentru dezvoltatori la San Francisco, unde sunt așteptate noi anunțuri. Nu este clar dacă o versiune îmbunătățită a modelului Astra va fi pe listă, dar atenția se va îndrepta, fără îndoială, spre măsurile de siguranță pe care le vor prezenta.
Este important de menționat că OpenAI nu este la prima astfel de decizie. În trecut, și Anthropic a amânat lansarea unui model foarte performant, Mythos, tocmai pentru că acesta era prea eficient în descoperirea unor vulnerabilități software. Modelul a fost totuși făcut public ulterior, după ce a fost considerat suficient de sigur.
Toate aceste întâmplări arată că, deși inteligența artificială promite să ne schimbe viața în moduri spectaculoase, drumul spre viitor trebuie parcurs cu prudență. Pentru ca tehnologia să ne aducă beneficii reale, este esențial ca dezvoltatorii să nu sacrifice siguranța de dragul progresului rapid. Poate că, în final, adevărata inteligență constă tocmai în a ști când să spui „nu încă”.
Sursa articol:BBC
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply