Recent, lumea cercetării științifice a fost zguduită de o problemă tot mai frecventă: conținutul generat prin inteligență artificială (AI) care ajunge în literatura de specialitate. De la citări fictive la diagrame fără sens, multe dintre aceste “contribuții” au trecut neobservate de editori și recenzenți. Acum, se pare că se iau măsuri serioase împotriva acestor probleme încă dinainte de etapa de recenzare pe domenii științifice specifice.
Unul dintre moderatori ai serverului de preprinturi în fizică și astronomie, arXiv, a dezvăluit pe rețelele sociale că orice conținut inadecvat produs de AI și trimis spre publicare pe platformă va atrage după sine o suspendare de un an de zile și o verificare obligatorie a tuturor lucrărilor viitoare înainte de a fi acceptate pe arXiv. Thomas Dietterich, profesor emerit la Oregon State University și membru activ în consiliul editorial al arXiv, este într-o poziție privilegiată pentru a înțelege și a explica noile reglementări, deși am încercat să obținem și o confirmare oficială de la conducerea arXiv, care încă nu a răspuns.
Într-o discuție pe rețeaua socială X (capturată și pe Bluesky pentru cei fără conturi X), Dietterich a explicat că noua politică provine direct din standardele de moderare ale arXiv. Conform acestor standarde, “trimiterile către arXiv trebuie să respecte normele adecvate de comunicare științifică, incluzând secțiuni, figuri, tabele, referințe etc. pregătite cu atenție”. Se cere, de asemenea, o mare atenție în pregătirea materialelor.
Dietterich subliniază și faptul că toți autorii unui manuscris sunt responsabili pentru conținutul acestuia. Astfel, dacă trimit material generat neglijent de AI care încalcă aceste linii directoare — menționând limbaj inadecvat, conținut plagiat, conținut tendențios, erori, greșeli, referințe incorecte sau conținut înșelător — ei sunt cei responsabili, nu AI-ul. Dacă se descoperă astfel de încălcări, toți autorii menționați în manuscris vor primi o interdicție de a mai trimite lucrări pe durata unui an, iar orice manuscris viitor va fi acceptat doar după ce a fost recenzat de un jurnal.
Pentru domeniile care se bazează intens pe arXiv, aceste sancțiuni sunt severe. Publicarea de preprinturi în domenii ca astrofizica este considerată parte normală a procesului de publicare, iar cercetătorii adesea primesc feedback pe preprinturi care îi ajută să îmbunătățească ceea ce trimit spre recenzare. Din fericire, sistemul de moderare include și un proces de apel.
Una dintre întrebările evidente care apar când aceste probleme sunt descoperite în publicații este de ce nu au fost detectate mai devreme. Acum, cel puțin, știm că cineva încearcă să aibă grijă de acest aspect.
Sursa: Ars Technica
Poll: Care este responsabilitatea autorilor în ceea ce privește conținutul generat de inteligența artificială (AI) în lucrările științifice, conform noilor reglementări ale arXiv?
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply