Când „nu” înseamnă „da”: Cum eșuează AI-urile în a procesa eticheta socială persană

Un studiu recent scoate la lumină modul în care răspunsurile unui AI, deși utile, pot deveni un dezastru cultural în Iran.

Imaginează-ți că ești într-un taxi în Iran și, la finalul călătoriei, șoferul refuză plata, spunând: „De data aceasta, e din partea casei”. Să accepți oferta lui ar fi un faux pas cultural major. În această situație, se așteaptă ca tu să insiști să plătești – probabil de trei ori – înainte ca șoferul să accepte banii. Acest joc de refuz și contra-refuz, numit taarof, stă la baza nenumărate interacțiuni zilnice în cultura persană. Modelele de AI sunt, însă, departe de a stăpâni acest dans.

Cercetări recente, prezentate într-un studiu intitulat „Insistăm politicos: Modelul dumneavoastră de limbaj trebuie să învețe arta persană a taarofului”, arată că modelele principale de limbaj AI de la OpenAI, Anthropic și Meta nu reușesc să integreze aceste ritualuri sociale persane, navigând corect situațiile de taarof doar în 34 până la 42 la sută din cazuri. În contrast, vorbitorii nativi de persană reușesc să facă acest lucru în 82 la sută din cazuri. Această discrepanță se menține constantă în rândul modelelor mari de limbaj, cum ar fi GPT-4o, Claude 3.5 Haiku, Llama 3, DeepSeek V3 și Dorna, o variantă ajustată pentru persană a lui Llama 3.

Studiul, condus de Nikta Gohari Sadr de la Universitatea Brock, împreună cu cercetători de la Universitatea Emory și alte instituții, introduce „TAAROFBENCH”, primul benchmark pentru măsurarea gradului în care sistemele AI reproduc această practică culturală complexă. Constatările cercetătorilor arată că modelele recente de AI adoptă un stil direct specific occidentului, ignorând complet indiciile culturale care guvernează interacțiunile zilnice ale milioane de vorbitori de persană la nivel mondial.

„Greșelile culturale în contexte de mare importanță pot sabota negocieri, deteriora relații și întări stereotipuri”, scriu cercetătorii. Pentru sistemele AI folosite tot mai mult în contexte globale, această orbire culturală ar putea reprezenta o limitare despre care puțini în Occident sunt conștienți.

„Taarof, un element central al etichetei persane, este un sistem de politețe ritualizată unde ceea ce se spune adesea diferă de ceea ce se înțelege”, explică cercetătorii. „Se manifestă prin schimburi ritualizate: oferirea repetată în ciuda refuzurilor inițiale, declinarea cadourilor în timp ce dăruitorul insi…

Știință&Tehnică

Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România