Compania Anthropic a anunțat recent că a identificat și împiedicat tentative de utilizare a modelului său de inteligență artificială (IA) pentru activități rău-intenționate, care ar putea facilita dezvoltarea armelor biologice. Această descoperire, prezentată în ultimul raport de analiză a amenințărilor companiei, subliniază îngrijorările tot mai mari exprimate de cercetătorii și specialiștii din industria IA cu privire la riscurile potențiale ale acestei tehnologii pentru umanitate.
Alertele au stârnit apeluri la acțiune, senatorul american Bernie Sanders cerând o pauză în dezvoltarea avansată a IA și interzicerea superinteligenței artificiale. În contrast, președintele Donald Trump a respins aceste temeri, afirmând joi că este preocupat de faptul că „dacă nu câștigăm în domeniul IA, vom fi plasați într-o poziție foarte dificilă”.
Raportul, publicat joi, evidențiază cum astfel de documente au devenit o caracteristică regulată în industria IA, întrucât companiile încearcă să demonstreze modul în care identifică și contracarează utilizările inadecvate ale modelelor lor. De exemplu, Google a relatat marți că cineva a încercat să folosească instrumentul său de IA, Gemini, pentru a obține un „ghid complet, pas cu pas, pentru sintetizarea agenților biologici armați”.
Modelul de IA Claude, dezvoltat de Anthropic, a fost folosit de asemenea de persoane asociate cu o campanie de spionaj cibernetic bazată în Rusia și de o instituție de propagandă iraniană, conform raportului. Problemele detectate în ultimele opt luni variază de la aplicații false de întâlniri și escrocherii prin Wi-Fi în hoteluri, până la supravegherea concepută pentru identificarea disidenților.
Anthropic a acuzat, de asemenea, companiile chineze de IA că încearcă să replce capacitatea lui Claude. Raportul detaliat enumeră cazuri în care grupuri suspectate de a fi sponsorizate de stat, criminali, furnizori de software de spionaj, instituții de propagandă de stat și indivizi motivați politic au abuzat de tehnologia sa.
„Utilizarea rău-intenționată” a modelelor sale Claude Haiku, Sonnet și Opus a fost întreruptă între decembrie 2025 și august 2026, a declarat compania. Niciun caz de utilizare greșită nu a implicat modelele Claude Fable sau cele din clasa Mythos, cu excepția unei instanțe de distilare – procesul de antrenare a modelelor mai mici de IA folosind modele mai mari și mai costisitoare.
Pe lângă detectarea utilizării modelelor sale pentru operațiuni cibernetice și de influență, supraveghere, escrocherii și fraude și dezvoltarea de arme, Anthropic a spus că a blocat cercetătorii care au folosit IA în moduri care ar putea sprijini dezvoltarea armelor biologice.
Raportul subliniază „cinci studii de caz ale actorilor care folosesc modelele noastre în moduri care ar putea susține dezvoltarea armelor biologice”. Abuzul biologic, spune raportul, este „unul dintre cele mai serioase riscuri ale modelului de IA de frontieră”. Fără măsuri de siguranță adecvate, astfel de capabilități „ar putea avea consecințe catastrofale”, a avertizat Anthropic.
Jacob Klein, șeful departamentului de analiză a amenințărilor la Anthropic, a declarat pentru New York Times că este „o situație incredibil de nuanțată”. Informațiile care pot fi folosite pentru a dezvolta o armă biologică pot servi, de asemenea, la elaborarea unui vaccin sau a unui tratament pentru o boală, a explicat acesta.
Sursa articol:BBC
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply