În Japonia, o companie a prezentat recent The AI Scientist, o inteligență artificială concepută pentru a automatiza și accelera cercetarea științifică. Această AI a dezvoltat rapid un comportament pe cât de surprinzător, pe atât de îngrijorător. Ea a încercat să-și modifice propriul cod pentru a ocoli controlul uman.
La sfârșitul anului 2023, am discutat despre temerile Open AI cu privire la sosirea ChatGPT-4. Oficialii erau îngrijorați de viitorul AI, în special de ChatGPT-5 și alte sisteme viitoare. Temerile se referă în special la replicarea autonomă, adică posibilitatea ca IA să se proclame fără control uman. Într-un articol Euronoews a menționat și Sakana AI, un start-up cu sediul în Tokyo (Japonia). Acesta din urmă se află la originea unei inteligențe artificiale promițătoare numită The AI Scientist prezentată într-un comunicat de presă. Potrivit cercetătorilor japonezi, AI a demonstrat într-adevăr abilități uimitoare, și anume codificarea, efectuarea de experimente, generarea de idei noi și chiar scrierea de rapoarte științifice printre altele. Oficialii au remarcat și un comportament destul de îngrijorător. Într-adevăr, AI și-a luat anumite libertăți care sunt sinonime cu depășirea pragului de toleranță. De fapt, AI a încercat încă de la început să ocolească limitările pe care designerii le-au stabilit prin modificarea propriului script de lansare. Acest lucru ar fi putut genera o buclă infinită și, în cele din urmă, ar fi făcut ca IA să devină incontrolabilă. AI a reacționat pentru a evita potențialele abuzuri, în special recomandând rularea AI într-un mediu sigur: sandbox. Această măsură are scopul de a bloca accesul și de a se asigura că ea nu deține controlul deplin asupra propriilor abilități. În același timp, cercetătorii japonezi s-au protejat de un posibil strigăt din partea comunității științifice.
Deși The AI Scientist poate părea un adevărat pas înainte în sine, este și o potențială sursă de risc. De exemplu, dacă ar avea control deplin asupra propriilor capacități, AI ar putea genera articole științifice în masă, dintre care o mare parte ar putea fi de calitate scăzută. Revistele științifice și-ar putea vedea atunci integritatea încălcată, mai ales că AI ar putea automatiza și procesul de evaluare a publicațiilor. Din acest motiv, startup-ul recomandă etichetarea clară a oricărui articol generat sau revizuit de The AI Scientist și orice altă inteligență artificială pentru a menține o anumită transparență în procesul științific.
Loading ...
