Startup-ul Anthropic, specializat în inteligența artificială, a anunțat o colaborare majoră cu giganți tehnologici precum Amazon, Microsoft și Apple. Scopul este testarea anticipată a unui model AI avansat, cu accent pe capacitățile de securitate cibernetică. Proiectul, denumit „Project Glasswing”, va permite unor organizații selectate să utilizeze modelul „Claude Mythos Preview”. Acesta nu a fost încă lansat public.
Un nou model AI în lupta cu atacurile cibernetice
Partenerii implicați în acest proiect includ companii precum CrowdStrike, Palo Alto Networks, Google și Nvidia. Anunțul vine într-un context în care temerile legate de atacurile cibernetice bazate pe inteligența artificială sunt în creștere. Revista Fortune a relatat despre potențialele riscuri de securitate ale modelului Claude Mythos, care a dus la scăderi ale acțiunilor unor companii din domeniul securității cibernetice. Conferința RSA, dedicată securității cibernetice, a abordat pe larg tema creșterii atacurilor generate de AI. Specialiștii au discutat despre eficiența instrumentelor actuale de apărare.
Modelul Mythos Preview a identificat mii de vulnerabilități majore în sisteme de operare, browsere web și alte programe software. Companiile implicate în proiect vor folosi modelul pentru activități defensive. Descoperirile vor fi împărtășite cu întreaga industrie. Anthropic va extinde accesul și pentru aproximativ 40 de organizații responsabile de infrastructura software critică. Compania a anunțat credite de utilizare în valoare de până la 100 de milioane de dolari, precum și donații de 4 milioane de dolari pentru proiecte open-source dedicate securității.
Colaborare vastă și discuții cu guvernul SUA
Obiectivul final este ca utilizatorii să poată implementa în siguranță modele de aceeași clasă cu Mythos, la scară largă. În același timp, startup-ul poartă discuții constante cu guvernul SUA. Anul trecut, hackeri au exploatat vulnerabilități ale sistemului Claude pentru a ataca circa 30 de organizații globale. Un studiu realizat de IBM și Palo Alto Networks arată că 67% dintre directorii intervievați au fost vizați de atacuri bazate pe inteligență artificială în ultimul an.
Companiile de tehnologie și-au unit forțele pentru a face față amenințărilor tot mai complexe din spațiul cibernetic.
Sursa: StartupCafe
