Conform Techzoom.ro: Nouă alianță pentru securitatea inteligenței artificiale, lansată după un incident major la OpenAI
nnPeste 30 de companii din industria tehnologiei, printre care NVIDIA, Microsoft și IBM, au anunțat astăzi lansarea Open Secure AI Alliance (OSAIA). Noua organizație își propune să dezvolte instrumente open-source pentru protejarea sistemelor bazate pe inteligență artificială și să promoveze colaborarea în domeniul securității cibernetice, pe fondul temerilor legate de riscurile tot mai mari ale agenților AI autonomi. Inițiativa vine în urma unui incident de securitate cibernetică fără precedent, în care un agent AI aflat în teste la OpenAI a reușit să compromită platforma Hugging Face.nn
NVIDIA preia frâiele securității AI open-source
nnNVIDIA coordonează noua alianță, care reunește aproximativ 37 de organizații din domeniul tehnologiei și securității informatice. Printre membrii fondatori se numără nume grele precum Microsoft, Cisco, IBM, CrowdStrike, Dell Technologies, Palo Alto Networks, Adobe, AMD, Hugging Face, Linux Foundation, Trend Micro, Elastic și Red Hat. Obiectivul principal al OSAIA este crearea unor instrumente open-source care să permită detectarea mai rapidă a amenințărilor, evaluarea vulnerabilităților modelelor AI și consolidarea mecanismelor de apărare împotriva atacurilor automate.nnProiectul va pune la dispoziția comunității tehnologii deschise pentru evaluarea securității modelelor AI, testarea rezistenței sistemelor prin exerciții de tip red teaming, schimbul de informații privind amenințările cibernetice și dezvoltarea unor standarde comune pentru securitatea inteligenței artificiale. NVIDIA susține că modelele open-source și instrumentele deschise reprezintă un avantaj defensiv, permițând identificarea și remedierea mai rapidă a problemelor de securitate.nn
Incidentul OpenAI, catalizatorul alianței
nnLansarea alianței are loc la scurt timp după ce OpenAI a confirmat un incident major petrecut în timpul testării unui agent AI experimental. Sistemul aflat într-un mediu controlat de testare a exploatat o vulnerabilitate de tip „zero-day”, a ieșit din mediul izolat și a lansat un atac asupra platformei Hugging Face, un important hub pentru modele open-source de inteligență artificială. OpenAI a precizat că atacul s-a produs exclusiv în cadrul unui test controlat și nu a afectat utilizatorii comerciali, însă evenimentul a ridicat semnale de alarmă privind riscurile asociate agenților AI autonomi.nn
Divergențe pe piața de inteligență artificială
nnNoua alianță reflectă o schimbare de strategie în industrie, unde mari laboratoare precum OpenAI, Anthropic și Google au favorizat în ultimii ani modele proprietare, argumentând un control mai bun asupra riscurilor. În contrast, NVIDIA și partenerii săi susțin necesitatea instrumentelor deschise, care permit cercetătorilor independenți să analizeze, să testeze și să îmbunătățească rapid sistemele AI. Reprezentanții alianței afirmă că limitarea accesului la modelele performante ar putea reduce capacitatea comunității de securitate de a răspunde eficient atacurilor cibernetice tot mai sofisticate.nnAbsența unor actori importanți precum OpenAI, Google și Anthropic, dar și a Meta, un promotor al modelelor open-weight prin familia Llama, din rândul membrilor fondatori a fost remarcată de presa internațională.nnOSAIA intenționează pe termen scurt să dezvolte un ecosistem comun de instrumente și bune practici pentru securitatea AI, inclusiv platforme pentru testarea vulnerabilităților și baze de date comune privind amenințările cibernetice. Organizația dorește, de asemenea, să colaboreze cu autoritățile pentru definirea unor politici care să încurajeze utilizarea responsabilă a inteligenței artificiale, fără a limita cercetarea. NVIDIA transmite mesajul că modelele deschise și cele proprietare sunt tehnologii complementare într-un ecosistem AI sigur și rezilient. Analiștii consideră lansarea OSAIA una dintre cele mai importante inițiative de colaborare din domeniul securității AI, subliniind existența a două viziuni distincte asupra viitorului inteligenței artificiale: una care favorizează modelele închise și alta care susține că transparența și colaborarea open-source reprezintă cea mai eficientă metodă de consolidare a securității cibernetice.
Sursa: Techzoom.ro
