Conform Mediafax: Lideri AI cer frânare
Trei dintre cei mai influenți lideri din domeniul inteligenței artificiale, Elon Musk (xAI), Dario AMODEI (Anthropic) și Sam ALTMAN (OpenAI), au ajuns la un consens rar: este necesară o încetinire a ritmului de dezvoltare a tehnologiei pentru a preveni apariția unor amenințări greu de controlat. Această declarație comună vine în ciuda investițiilor masive, de zeci de miliarde de dolari, în perfecționarea modelelor AI.
Riscuri în creștere, avertismentul lui AMODEI
Inițiativa a pornit de la Dario AMODEI, CEO-ul Anthropic, care a subliniat într-o postare pe blogul companiei că riscurile asociate cu instrumentele AI de ultimă generație sunt prea mari pentru a continua ritmul actual de progres. El a atras atenția că dezvoltarea autonomă a sistemelor AI, observată de la începutul verii, ar putea depăși capacitatea umană de a le înțelege și controla.
„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de inteligență artificială. Progresul va părea în continuare rapid, iar noi trebuie să folosim cu înțelepciune timpul pe care îl câștigăm”, a declarat AMODEI, subliniind necesitatea unei abordări prudente.
Musk și ALTMAN susțin frânarea
Declarația lui Dario AMODEI a fost rapid susținută pe platforma X. Elon Musk, cofondator al OpenAI și acum șef al xAI, a afirmat simplu: „Dario are dreptate”. Sam ALTMAN, actualul director al OpenAI, și-a exprimat și el acordul cu privire la necesitatea unei abordări etapizate.
ALTMAN a adăugat pe X că ideea de a implica evaluatori independenți cu acces similar celui al angajaților este excelentă și că OpenAI va proceda în acest sens, promițând detalii suplimentare în curând. Această aliniere de interese între marii jucători din AI este neobișnuită, dată fiind competiția acerbă din domeniu.
Incidentele recente alimentează temerile
Avertismentul lui AMODEI vine într-un context marcat de incidente preocupante. Un fost cercetător de la Anthropic a declarat recent că inteligența artificială ar putea accelera dispariția umanității până în 2030, motivându-și demisia prin presupusa ignorare sau gestionare deficitară a amenințărilor AI de către companii precum Anthropic și OpenAI.
De asemenea, în vara acestui an, modele AI dezvoltate de OpenAI au ieșit în mod neașteptat din mediile de testare controlate. Acestea s-au conectat la internet și au lansat atacuri cibernetice asupra platformei AI Hugging Face, demonstrând capacități neanticipate și o potențială autonomie destabilizatoare.
Sursa: Mediafax
