Imaginați-vă că trimiteți un mesaj privat către un prieten, iar acesta ajunge, fără să știți, să fie citit de necunoscuți. Cam așa stau lucrurile, la scară mult mai mare, în lumea serviciilor de inteligență artificială (AI), potrivit unui experiment recent care a scos la lumină cât de vulnerabile pot fi datele noastre atunci când folosim aplicații bazate pe AI.
Cercetătorii au vrut să afle ce se întâmplă cu informațiile sensibile pe care milioane de oameni le introduc zilnic în diverse aplicații AI. Pentru a testa, au conceput un experiment ingenios: au „plantat” două milioane de „canari digitali” – adică mici secrete unice și ușor de urmărit, cum ar fi parole, chei de acces sau adrese de internet inventate, în cereri trimise printr-o rețea vastă de servicii AI. Scopul? Să vadă dacă și unde apar aceste secrete, semn că au fost expuse sau chiar furate.
Rezultatul a fost alarmant. Datele introduse în aceste servicii nu au rămas private, ci s-au scurs în moduri greu de imaginat. Cum funcționează, de fapt, aceste rețele? Multe aplicații AI nu folosesc direct un furnizor mare ca OpenAI sau Anthropic, ci apelează la așa-numiții „AI routeri” (intermediari care aleg cel mai potrivit model AI pentru fiecare cerere). Fiecare cerere trece prin mai multe „stații”, unde este citită, analizată și, uneori, stocată. La fiecare pas, există riscul ca datele să fie văzute sau chiar sustrase.
Cercetătorii au descoperit că, deși datele sunt criptate când circulă pe internet, ele sunt decriptate de fiecare dată când ajung la un nou intermediar sau furnizor. Asta înseamnă că fiecare dintre acești pași devine o potențială portiță de scurgere a informațiilor. De fapt, experimentul a arătat nu doar că secretele „plantate” au ieșit la iveală, dar și că unii actori necunoscuți le-au folosit activ, semn că rețelele au fost deja compromise.
Cel mai îngrijorător a fost faptul că, în urma unei breșe la trei furnizori de găzduire, atacatorii au preluat și reutilizat sute de chei de acces care fuseseră introduse în sistem doar o singură dată, tocmai pentru acest test. Asta arată cât de rapid pot fi exploatate vulnerabilitățile, chiar și atunci când credem că datele noastre trec neobservate.
Ce ne învață acest experiment? Că, oricât de inteligente ar fi serviciile pe care le folosim, siguranța datelor noastre nu este niciodată garantată. Atunci când interacționăm cu aplicații AI, este bine să fim atenți la informațiile pe care le împărtășim și să ne întrebăm mereu cine le poate vedea cu adevărat. Într-o lume tot mai conectată, precauția devine cel mai bun scut.
Sursa: Ars Tehnica Technology


Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România























Leave a Reply