Îngrijorările referitoare la reglementarea Inteligenței Artificiale cresc pe măsură ce cercetătorii și șefii emite avertismente alarmante despre potențialul tehnologiei.
O serie de avertismente privind pericolele potențiale ale IA au generat apeluri pentru acțiuni coordonate pentru a încetini dezvoltarea tehnologiei.
Afirmațiile făcute de cercetători actuali și foști, conform cărora tehnologia va pune în pericol omenirea – unul sugerând că există o șansă mai mare de 10% ca aceasta să “ucida toți oamenii” – au declanșat alarma.
Dezvoltatorii majori OpenAI și Anthropic îndeamnă legislatorii să reglementeze IA, iar șeful AI de la Microsoft a afirmat recent că sunt necesare reguli pentru a preveni o “specie de siliciu” să concureze în cele din urmă cu omenirea.
Dar unii au respins apelurile drept un efort al marilor dezvoltatori de AI de a-și consolida dominația asupra concurenților.
Cu toate acestea, afirmațiile de înalt profil au stârnit îngrijorare – iată ce știm.
Unii cercetători AI spun că există semne îngrijorătoare că sistemele își dezvoltă capacitățile și puterea prea rapid.
Evan Hubinger a făcut titluri cu credința sa că există o șansă mai mare de 10% ca IA “să poată ucide toți oamenii” în următorul deceniu.
El lucrează în aliniere, un domeniu care își propune să încorporeze ideile etice și principiile umane în IA – menținându-le esențial pe drumul valorilor umane.
Deși a spus că riscul din sistemele actuale era “scăzut”, comentariile sale au venit în contextul în care un alt cercetător a părăsit Anthropic și a avertizat că cei care dezvoltă tehnologia își pierd controlul asupra acesteia.
Jacob Coxon a declarat pentru BBC că el și alți angajați erau “genuin speriați” de viteza avansurilor și de ceea ce ar putea însemna pentru omenire.
Aceste îngrijorări sunt cele mai recente într-o lungă serie de temeri legate de potențialul IA de a amenința omenirea în cazul în care ajunge să se ridice la nivelul sau să depășească abilitățile umane.
Astfel de îngrijorări datează de decenii, cu Alan Turing scriind în anii 1950 că, în cazul în care mașinile inteligente devin posibile, acestea ar putea prelua controlul.
‘Există o posibilitate de extincție umană,’ spune un fost angajat Anthropic despre IA
În ultimii ani, marile companii de AI au concurat pentru a dezvolta sisteme din ce în ce mai capabile, atât pentru profit, cât și în căutarea creării a ceea ce ei numesc superinteligență – o tehnologie teoretic mai inteligentă decât oamenii.
Spre deosebire de sistemele și instrumentele pe care mulți oameni le folosesc zilnic pentru a finaliza sarcini precum scrierea de e-mailuri sau generarea de videoclipuri, sistemele AI superinteligență ar trebui să poată gestiona sarcini mult mai complexe.
OpenAI și Anthropic spun că își propun să avanseze astfel de tehnologii într-un mod care să aducă beneficii oamenilor și să îi protejeze de riscurile existențiale.
Dar unii critici cred că mașinile nu pot niciodată să se ridice cu adevărat la nivelul oamenilor. Ei spun că firmele de AI exagerează abilitățile tehnologiei pentru a-și spori importanța sau profitul.
Campanii precum PauseAI au îndemnat, de asemenea, companiile precum Google să oprească eforturile de a construi sisteme AI extrem de capabile.
Cercetătorii AI, experții și șefii îngrijorați de potențialul tehnologiei de a pune în pericol omenirea au conturat scenarii neliniștitoare.
Dario Amodei a scris în septembrie, că aceasta a avansat “drastic mai repede” decât se aștepta.
Sursa articol:BBC
Revista “Ştiinţă şi Tehnică“, cea mai cunoscută şi longevivă publicaţie de popularizare a ştiintelor din România
Leave a Reply