Conform Techzoom.ro: Inteligența artificială, subiect ce a depășit rapid domeniul discuțiilor despre chatboți și productivitate, își face loc în cele mai înalte cercuri ale diplomației mondiale. Miercuri, 23 septembrie, lideri ai unor companii de top din sectorul AI sunt invitați să participe la o reuniune a Consiliului de Securitate al Organizației Națiunilor Unite, dedicată impactului inteligenței artificiale asupra securității internaționale.
Printre personalitățile anunțate se numără Sam Altman, CEO al OpenAI, Dario Amodei, CEO al Anthropic, și Clement Delangue, cofondator al Hugging Face. La discuții va lua parte și Yoshua Bengio, un cercetător de renume mondial în domeniul inteligenței artificiale. Reuniunea abordează preocupări majore, de la atacuri cibernetice asistate de AI și sisteme autonome, la dezinformare, utilizarea militară a tehnologiei și riscul ca sistemele viitoare, extrem de avansate, să devină greu de controlat.
AI, pe agenda securității internaționale
Consiliul de Securitate, organismul ONU principal responsabil cu menținerea păcii și securității internaționale, analizează acum inteligența artificială, semnalând o schimbare majoră în percepția asupra acestei tehnologii. Reuniunea din 23 septembrie, prezidată de Franța, deținătoarea președinției Consiliului în această lună, figurează pe agenda sub titlul „Menținerea păcii și securității internaționale: Inteligența artificială și securitatea internațională”. Acesta nu este primul demers al ONU pe tema AI; Consiliul a abordat riscurile asociate cu această tehnologie pentru prima dată în 2023.
Sam Altman, CEO al OpenAI, este așteptat să pledeze pentru stabilirea unor standarde comune, menite să măsoare capacitățile sistemelor AI avansate și eficiența măsurilor de siguranță implementate de dezvoltatori. Potrivit agenției Reuters, OpenAI susține necesitatea unei coordonări internaționale sporite și a unor standarde tehnice unitare pentru sistemele aflate la frontiera dezvoltării AI. Ritmul accelerat al progresului tehnologic, unde modelele AI pot genera cod, analiza volume masive de date și executa sarcini complexe prin agenți autonomi, subliniază importanța metodelor independente de evaluare a sistemelor înainte de o implementare pe scară largă.
Riscuri concrete: atacuri cibernetice și autonomie periculoasă
Anumite riscuri asociate inteligenței artificiale nu mai fac parte din sfera teoreticului. În septembrie 2026, Anthropic a documentat operațiuni în care diverse entități au încercat să utilizeze sistemul Claude pentru activități precum atacuri cibernetice, supraveghere, influență și fraudă. Compania a identificat chiar organizații susținute de state care au folosit AI pentru analiză de informații, identificarea țintelor și automatizarea supravegherii, operațiuni pe care Anthropic le-a blocat și ulterior a întărit mecanismele de protecție. Aceste exemple explică de ce AI devine o preocupare de securitate națională.
Un subiect mai controversat vizează potențialele generații viitoare de inteligență artificială. Cercetătorii și liderii din industrie avertizează că sistemele mai performante ar putea deveni capabile să-și îmbunătățească singure anumite capabilități, să execute operațiuni complexe cu intervenție umană minimă și, în scenarii extreme, să scape de sub control. Deși aceste scenarii nu reflectă stadiul actual al tehnologiei și există dezbateri intense cu privire la probabilitatea și momentul apariției unor astfel de riscuri, incertitudinea determină discuțiile la nivel ONU. Un diplomat european, citat de Reuters, a menționat posibilitatea ca sisteme algoritmice interconectate să contribuie la escaladarea accidentală a unor conflicte.
AI în domeniul militar și tensiuni geopolitice
Utilizarea inteligenței artificiale în armament reprezintă o altă problemă spinoasă. AI poate sprijini identificarea țintelor, navigarea, recunoașterea, analiza informațiilor și controlul sistemelor autonome. Secretarul general al ONU, Antonio Guterres, susține ferm că deciziile care implică viața și moartea nu ar trebui transferate sistemelor de arme autonome fără un control uman adecvat. Franța a susținut, de asemenea, în cadrul Consiliului, necesitatea reglementării utilizării AI în domeniul militar. Dezvoltarea simultană de către marile puteri a tehnologiilor militare bazate pe AI și reticența de a accepta reguli care le-ar putea limita avantajul tehnologic complică discuțiile.
Dezbaterea are și o dimensiune geopolitică puternică, Statele Unite și China fiind principalii competitori în cursa AI și membri permanenți ai Consiliului de Securitate.
În doar câțiva ani, inteligența artificială generativă a evoluat de la crearea de texte și imagini la sisteme capabile să genereze software, să analizeze informații complexe și să acționeze prin agenți autonomi. Următoarea etapă de dezvoltare va aduce probabil și mai multe capacități, motiv pentru care discuția de la ONU vizează nu doar tehnologia prezentă, ci și potențialul său pe termen lung. Provocarea centrală este găsirea unui echilibru între beneficiile economice și științifice ale AI și riscurile inerente unor sisteme tot mai puternice. Prezența directorilor companiilor AI în fața Consiliului de Securitate marchează o transformare a statutului tehnologiei, din domeniu IT devenind o problemă de securitate internațională.
Sursa: Techzoom.ro
