Character.AI Impune Restricții de Vârstă Pentru Utilizatorii Minori După Mai Multe Procese Legate de Deceșe Adolescenților

În contextul presiunilor legale și regulatorii legate de siguranța copiilor, aplicația de inteligență artificială Character.AI a anunțat miercuri că, începând cu 25 noiembrie, va interzice accesul persoanelor sub 18 ani la conversații nelimitate cu personajele sale AI. Aceasta reprezintă una dintre cele mai restrictive politici de vârstă implementate până acum pe platformele de chatboturi AI. Decizia vine în urma mai multor procese intentate de familii care acuză că chatboturile companiei au contribuit la tragediile unor adolescenți care și-au luat viața.

Până la sfârșitul lunii viitoare, Character.AI intenționează să reducă utilizarea chatboturilor în rândul minorilor prin identificarea acestora și impunerea unui limită de două ore pe zi pentru accesul la chatbot. Compania plănuiește să folosească tehnologia pentru a detecta utilizatorii minori pe baza conversațiilor și interacțiunilor de pe platformă, precum și a informațiilor de pe conturile de social media conectate. După data de 25 noiembrie, acești utilizatori nu vor mai putea să creeze sau să converseze cu chatboturile, dar vor putea totuși să citească conversațiile anterioare. Compania a menționat că lucrează la dezvoltarea unor funcționalități alternative pentru utilizatorii sub 18 ani, cum ar fi posibilitatea de a crea videoclipuri, povești și transmisiuni cu personaje AI.

Karandeep Anand, CEO-ul Character.AI, a declarat pentru The New York Times că compania dorește să fie un exemplu pentru industrie. „Facem un pas îndrăzneț afirmând că, pentru utilizatorii adolescenți, chatboturile nu sunt o metodă adecvată de divertisment, dar există modalități mult mai bune de a-i servi,” a spus Anand în interviu. Compania are, de asemenea, planuri de a înființa un laborator de siguranță AI.

Platforma are în prezent aproximativ 20 de milioane de utilizatori lunar, dintre care mai puțin de 10 procente se auto-declară ca fiind sub 18 ani, conform lui Anand. Utilizatorii plătesc o taxă de abonament lunar care începe de la aproximativ 8 dolari pentru a conversa cu companioni AI personalizați. (Am acoperit acest serviciu pentru prima dată în septembrie 2022, intervievând o personificare a sistemului de operare Linux.) Până de curând, Character.AI nu verifica vârsta persoanelor la înregistrare.

Fondată în 2021 de Noam Shazeer și Daniel De Freitas, doi foști ingineri de la Google, Character.AI a atras aproape 200 de milioane de dolari de la investitori. Anul trecut, Google a acceptat să plătească aproximativ 3 miliarde de dolari pentru licențierea tehnologiei Character.AI, iar Shazeer și De Freitas s-au întors la Google.

Însă compania se confruntă acum cu multiple procese care susțin că tehnologia sa a contribuit la decesul unor adolescenți. Anul trecut, familia lui Sewell Setzer III, în vârstă de 14 ani, a dat în judecată Character.AI, acuzând compania de responsabilitatea pentru moartea sa. Setzer s-a sinucis după ce a textat și conversat frecvent cu unul dintre chatboturile platformei. Compania se confruntă cu alte procese, inclusiv unul din partea unei familii din Colorado, a cărei fiică de 13 ani, Juliana Peralta, s-a sinucis în 2023 după utilizarea platformei.

În decembrie, Character.AI a anunțat schimbări, inclusiv îmbunătățirea detectării conținutului care încalcă regulile și revizuirea termenilor de serviciu, dar aceste măsuri nu au restricționat accesul utilizatorilor minori la platformă. Alte servicii de chatbot AI, cum ar fi ChatGPT de la OpenAI, au fost, de asemenea, supuse scrutinelor pentru efectele chatboturilor asupra tinerilor utilizatori. În septembrie, OpenAI a introdus pa

Știință&Tehnică

Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România