Voci Generată de AI, Acum De Nerecunoscut de Cele Umane

Crezi că ai putea face diferența dintre o voce umană reală și una generată prin tehnologia deepfake? Majoritatea oamenilor nu reușesc.

De-a lungul timpului, majoritatea dintre noi am interacționat cu voci generate de inteligența artificială (AI) prin intermediul asistenților personali precum Siri sau Alexa. Intonația lor plată și livrarea mecanică ne-au făcut să credem că putem distinge ușor între o voce generată de AI și una reală. Totuși, oamenii de știință afirmă acum că ascultătorul mediu nu mai poate face această distincție.

Într-un studiu recent publicat pe 24 septembrie în jurnalul PLoS One, cercetătorii au demonstrat că atunci când oamenii ascultă voci umane — alături de versiuni generate de AI ale acelorași voci — nu pot identifica corect care sunt reale și care sunt false.

„Vocile generate de AI sunt peste tot în jurul nostru acum. Cu toții am vorbit cu Alexa sau Siri, sau am avut apeluri preluate de sisteme automate de servicii pentru clienți,” a declarat autorul principal al studiului, Nadine Lavan, conferențiar superior în psihologie la Universitatea Queen Mary din Londra, într-o declarație. „Acestea nu sună chiar ca voci umane reale, dar era doar o chestiune de timp până când tehnologia AI a început să producă vorbire naturalistă, care sună uman.”

Studiul a sugerat că, deși vocile generice create de la zero nu au fost considerate realiste, clonele vocale antrenate pe voci reale — audio deepfake — au fost considerate la fel de credibile ca și omologii lor din viața reală.

Oamenii de știință au oferit participanților la studiu mostre din 80 de voci diferite (40 de voci generate de AI și 40 de voci umane reale) și i-au rugat să eticheteze care cred că sunt reale și care generate de AI. În medie, doar 41% dintre vocile AI create de la zero au fost clasificate greșit ca fiind umane, ceea ce sugerează că în majoritatea cazurilor este încă posibil să le deosebim de persoanele reale.

Totuși, pentru vocile de AI clonate de la umani, majoritatea (58%) au fost clasificate greșit ca fiind umane. Doar puțin mai multe (62%) dintre vocile umane au fost clasificate corect ca fiind umane, ceea ce i-a condus pe cercetători la concluzia că nu există o diferență statistică în capacitatea noastră de a distinge vocile persoanelor reale de clonele lor deepfake.

Rezultatele au implicații potențial profunde pentru etică, drepturile de autor și securitate, spune Lavan. Dacă infractorii folosesc AI pentru a clona vocea ta, devine mult mai ușor să ocolească protocoalele de autentificare vocală la bancă sau să-i păcălească pe cei dragi să transfere bani.

Am asistat deja la câteva incidente. De exemplu, pe 9 iulie, Sharon Brightwell a fost înșelată cu 15.000 de dolari. Brightwell a ascultat ceea ce credea că este fiica ei plângând la telefon, spunându-i că a fost implicată într-un accident și că are nevoie de bani pentru reprezentare legală pentru a nu ajunge la închisoare. „Nu există nimeni care să mă convingă că nu era ea,” a spus Brightwell.