Descoperire Alarmantă: Chatboții AI Poplari, Vulnerabili la Intercepții Cibernetice

Cercetătorii în securitate cibernetică de la Microsoft au identificat recent o vulnerabilitate critică în arhitectura modelelor de limbaj de mari dimensiuni (LLM) care stau la baza inteligenței artificiale generative. Această deficiență ar putea permite hackerilor să intercepteze conversațiile cu chatboții, ocolind criptarea destinată protejării confidențialității acestor dialoguri.

Tehnica de atac, denumită “Whisper Leak”, reprezintă un tip de atac “man-in-the-middle”, în care hackerii pot captura mesajele în timp ce acestea sunt transmise între servere. Vulnerabilitatea a fost exploatată prin citirea metadatelor mesajelor, permițând astfel inferența conținutului acestora.

Studiul care descrie această tehnică de atac a fost publicat pe 5 noiembrie în baza de date arXiv, iar furnizorii de LLM au fost informați încă din iunie 2025. Companii precum Microsoft și dezvoltatorul ChatGPT, OpenAI, au evaluat riscul și au implementat soluții de remediere. Totuși, alți furnizori de LLM au refuzat să implementeze aceste corecții, invocând diverse motive, iar unii nici măcar nu au răspuns la noile descoperiri, conform cercetătorilor.

Analistul de securitate cibernetică Dave Lear nu se arată surprins de aceste descoperiri: “LLM-urile sunt o mină de aur potențială, având în vedere volumul de informații pe care oamenii le introduc în aceste sisteme – și să nu uităm de datele medicale, acum că spitalele le folosesc pentru a sorta datele din teste. Era doar o chestiune de timp până când cineva avea să găsească o metodă de a extrage aceste informații.”

Sistemele AI generative, cum ar fi Chat GPT, sunt unelte AI puternice care generează răspunsuri bazate pe o serie de prompturi, utilizate de asistenții virtuali pe smartphone-uri. Submulțimea de LLM-uri este antrenată pe cantități masive de date pentru a genera răspunsuri textuale.

În mod normal, conversațiile utilizatorilor cu LLM-urile sunt protejate prin protocoale de securitate a stratului de transport (TLS), care previn interceptarea comunicațiilor de către persoane neautorizate. Cu toate acestea, cercetătorii au reușit să intercepteze și să deducă conținutul prin analiza metadatelor comunicațiilor între un utilizator și un chatbot.

Metadatele, care sunt efectiv date despre date, includ dimensiuni și frecvențe și pot fi adesea mai valoroase decât conținutul mesajelor în sine. Prin interceptarea mesajelor și analiza metadatelor, cercetătorii au reușit să deducă subiectul mesajelor.

Descoperirile lumii fascinante, direct în inboxul tău.