Într-o perioadă în care tehnologia avansează într-un ritm amețitor, discuțiile despre siguranța inteligenței artificiale (AI) devin tot mai intense. Recent, trei foști cercetători de la OpenAI, compania care a creat ChatGPT, au atras atenția publicului după ce au fost concediați în urma unor acuzații controversate. Ei susțin că adevăratul motiv al plecării lor nu a fost legat de presupusa gestionare greșită a informațiilor, ci de faptul că au ales să tragă un semnal de alarmă cu privire la riscurile pe care le pot aduce sistemele AI avansate.
Mikita Balesni, unul dintre cei trei, a declarat public că el și colegii săi au fost dați afară pentru că au prioritizat siguranța înaintea intereselor comerciale ale companiei. Într-o scrisoare deschisă adresată conducerii OpenAI, semnată și de Tomek Korbak și Jasmine Wang, aceștia și-au exprimat îngrijorarea că atmosfera din companie s-a schimbat radical. Ei spun că, odinioară, angajații se simțeau încurajați să discute liber despre potențialele probleme, însă acum mulți se tem să ridice astfel de subiecte.
Pe de altă parte, reprezentanții OpenAI au declarat că decizia de a-i concedia pe cei trei nu a avut legătură cu faptul că au adus în discuție aspecte de siguranță, ci cu încălcarea unor reguli interne privind gestionarea informațiilor sensibile. Compania insistă că a existat o „ruptură gravă de încredere”, fără a intra în detalii concrete.
În centrul acestei dispute se află conceptul de „aliniere” (alignment), adică integrarea valorilor și principiilor etice umane în tehnologia AI. Pe scurt, alinierea urmărește ca AI-ul să acționeze în acord cu ceea ce considerăm noi, oamenii, că este corect și benefic. Tocmai aici apare și marea provocare: cum ne asigurăm că sistemele tot mai complexe nu scapă de sub control sau nu ajung să ia decizii dăunătoare?
Unul dintre cercetători, Tomek Korbak, a subliniat că, de luni bune, a atras atenția asupra faptului că devine tot mai greu să monitorizăm ce „gândesc” sistemele AI, pierzând astfel una dintre cele mai eficiente metode de a preveni comportamentele neprevăzute sau riscante.
În replică, OpenAI a anunțat că va colabora cu evaluatori externi specializați în siguranță și va prezenta în curând detalii despre aceste parteneriate. Totuși, Jasmine Wang, o altă fostă angajată, crede că nu sunt primii care au fost îndepărtați în condiții suspecte și se teme că, dacă nimeni nu ia atitudine, nici nu vor fi ultimii.
Acest episod reflectă o dilemă tot mai prezentă în lumea tehnologiei: cum găsim echilibrul între inovație rapidă și responsabilitate etică? Pe măsură ce AI-ul devine tot mai prezent în viața noastră, întrebarea nu mai este dacă ar trebui să discutăm despre siguranță, ci cât de serios ne luăm această responsabilitate. Rămâne de văzut dacă industria va reuși să găsească acel echilibru atât de necesar între progres și prudență.
Sursa articol:BBC
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply