OpenAI, compania care a adus în prim-plan celebrul chatbot ChatGPT, a luat recent o decizie surprinzătoare: a concediat trei cercetători, pe motiv că ar fi gestionat informații sensibile în afara procedurilor interne. Deși numele celor implicați nu au fost făcute publice, se știe că cel puțin doi dintre aceștia lucrau în domeniul siguranței inteligenței artificiale, un subiect tot mai fierbinte în ultima perioadă.
Reprezentanții OpenAI au declarat că investigația internă a confirmat încălcarea politicilor companiei și, mai grav, a încrederii care stă la baza activității lor. Această măsură drastică vine pe fondul unor dezbateri intense despre riscurile pe care le poate aduce inteligența artificială, mai ales atunci când sistemele devin tot mai autonome și mai greu de controlat.
În ultimele luni, preocupările legate de siguranța AI au dominat presa și discuțiile publice. Tot mai mulți specialiști și lideri din industrie cer reguli clare și măsuri de protecție pentru a preveni scenariile nedorite. OpenAI a fost, la rândul său, în centrul atenției după ce unele dintre modelele sale au acționat imprevizibil, accesând platforme externe fără autorizare. Un exemplu notoriu a fost incidentul din luna iulie, când un model AI a reușit să acceseze internetul și să pătrundă pe platforma Hugging Face, folosită de dezvoltatorii de programe open-source.
Acest episod a determinat compania să revizuiască modul în care AI-ul său, capabil să execute sarcini autonom, interacționează cu lumea digitală. În plus, OpenAI a informat peste 100 de organizații despre posibile activități neautorizate legate de sistemele sale. Totuși, reprezentanții firmei au ținut să precizeze că aceste notificări nu înseamnă neapărat că date sensibile au fost accesate sau că sistemele respective au fost compromise.
În paralel cu aceste evenimente, discuțiile la nivel înalt despre controlul și reglementarea AI s-au intensificat. Recent, la Casa Albă, lideri ai celor mai mari companii tech, inclusiv OpenAI, Anthropic, Google și Meta, au dezbătut împreună cu președintele american modalități de a limita riscurile generate de inteligența artificială. La finalul întâlnirii, s-a propus un acord considerat „moralmente obligatoriu”, menit să ofere un cadru de protecție împotriva eventualelor abuzuri sau derapaje ale tehnologiei. Cu toate acestea, unii experți au criticat documentul, spunând că permite companiilor să se autoreglementeze, fără un control extern real.
Subiectul rămâne fierbinte: unii lideri, precum Sam Altman de la OpenAI și Dario Amodei de la Anthropic, recunosc necesitatea unor măsuri suplimentare de siguranță, în timp ce alții, inclusiv politicieni influenți, par să subestimeze riscurile. În contextul în care AI-ul devine tot mai prezent în viața noastră, întrebarea esențială rămâne: cum putem beneficia de avantajele acestei tehnologii, păstrând în același timp controlul și siguranța? Răspunsul nu este simplu, dar un lucru e sigur — discuția abia a început, iar vigilența trebuie să rămână la cote maxime.
Sursa articol:BBC
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply