Conform Mediafax: Dezbaterea privind potențialele riscuri existențiale asociate inteligenței artificiale (AI) a căpătat amploare odată cu plecarea cercetătorului Jacob Coxon de la compania Anthropic, acesta invocând teama că sistemele AI ar putea scăpa de sub control. Ulterior, Evan Hubinger, coordonator al cercetării privind alinierea AI la valorile umane la aceeași companie, a estimat un risc de peste 10% pentru extincția umană în următorul deceniu. DIRECTORUL GENERAL al Anthropic, Dario Amodei, a cerut încetinirea ritmului de dezvoltare a sistemelor AI de vârf, solicitare susținută public și de Sam Altman (OpenAI) și Elon Musk (xAI).
Riscuri ipotetice și realități imediate ale AI
Scenariile privind amenințarea existențială pornesc de la premisa că viitoarele sisteme AI ar putea depăși capacitățile cognitive umane și că obiectivele lor ar putea fi dezaliniate cu interesele umane. Un exemplu clasic ilustrează o superinteligență ce urmărește un scop banal, dar într-un mod ce intră în conflict cu supraviețuirea umană. Alte scenarii implică utilizarea AI pentru dezvoltarea de arme biologice sau alte catastrofe. Totuși, unii analiști, precum Michael Vermeer de la RAND, subliniază că numeroase predicții se bazează pe presupuneri neverificabile, apropiindu-se mai mult de credință decât de empirism.
Nici măcar scenariile mai concrete, precum cele legate de arme nucleare sau biotehnologie, nu au condus la concluzii certe despre fezabilitatea extincției totale. Un element crucial este timpul necesar pentru materializarea unui astfel de dezastru, care ar necesita o capacitate semnificativă de interacțiune fizică cu lumea, permițând detectarea și stoparea acțiunilor AI. În schimb, cercetătorii din domeniul siguranței AI avertizează asupra unor riscuri mai imediate și concrete: dezinformarea pe scară largă, atacurile cibernetice sofisticate, facilitarea dezvoltării armelor biologice, erorile în sisteme critice și utilizarea modelelor AI în situații unde lipsa de fiabilitate poate genera consecințe grave.
Capacități alarmante și apeluri la control
Modelele AI recente demonstrează deja capacități îngrijorătoare. Anthropic a raportat că modelele sale pot executa sarcini din domeniul informațiilor militare și al dezvoltării de arme convenționale la un nivel comparabil cu cel al experților umani specializați, accentuând necesitatea unor măsuri de protecție suplimentare. Similar, OpenAI a evaluat că modelul GPT-6 Astra a atins un nivel critic în securitatea cibernetică, fiind capabil să identifice vulnerabilități necunoscute și să conceapă metode de exploatare a sistemelor protejate. Compania a implementat măsuri sporite de monitorizare și izolare ca urmare a acestor descoperiri.
Apelurile la o încetinire a dezvoltării AI vin din partea celor implicați direct în acest domeniu. Dario Amodei a subliniat nevoia ca siguranța să țină pasul cu evoluția capacităților, iar Anthropic a anunțat un program cu evaluatori independenți pentru verificarea practicilor de securitate, colaborând cu Accenture în acest sens, cu o investiție estimată la peste un miliard de dolari în următorii cinci ani. OpenAI susține, de asemenea, necesitatea unor standarde internaționale clare pentru evaluarea riscurilor, păstrarea controlului uman și definirea condițiilor în care dezvoltarea sistemelor avansate ar trebui limitată sau oprită.
Opoziție și competiție în cursa AI
Nu există însă un consens unanim în industrie cu privire la ritmul de limitare a dezvoltării. Președintele american Donald Trump s-a opus public solicitărilor de încetinire. În Congresul american, inițiative precum cea a senatorului Bernie Sanders și a congresmanului Greg Casar propun interzicerea dezvoltării „superinteligenței artificiale” și o pauză temporară în dezvoltarea sistemelor avansate până la stabilirea unor reguli federale de siguranță.
Pe plan global, lipsa unui cadru unitar de reglementare și competiția acerbă dintre Statele Unite ale Americii și China pentru supremația tehnologică complică eforturile de coordonare internațională. Datele actuale nu permit o concluzie științifică definitivă privind distrugerea omenirii de către AI, dar nici excluderea unei catastrofe existențiale nu este posibilă, gradul exact de risc rămânând subiect de intensă dispută. Ceea ce este documentat este capacitatea tot mai mare a modelelor AI de a opera în domenii precum programarea, cercetarea și securitatea cibernetică, accelerând, se pare, chiar procesul de dezvoltare al generațiilor viitoare de sisteme. Pentru cercetători, provocarea majoră constă în măsurarea și controlul riscurilor înainte ca sistemele AI să depășească substanțial capacitățile actuale.
Sursa: Mediafax
