Anthropic, o companie de cercetare în domeniul inteligenței artificiale, a dezvoltat un nou model AI capabil să identifice vulnerabilități critice în sisteme informatice. Denumit „Claude Mythos Preview”, tehnologia reprezintă un potențial instrument puternic în mâinile experților, dar și o amenințare considerabilă, motiv pentru care nu va fi lansată public deocamdată.
Capacități Avansate cu Potențial Periculos
Modelul Claude Mythos Preview a fost testat în diverse scenarii de securitate, demonstrând capacitatea de a exploata vulnerabilități și de a depăși restricțiile de securitate. Într-un experiment, sistemul a reușit să găsească o metodă de a transmite un mesaj din interiorul unui mediu virtual securizat, publicând totodată detalii despre vulnerabilitate. Mai mult, Anthropic a descoperit că acest model poate identifica erori grave în nucleul Linux, folosit pe scară largă în întreaga lume. Tehnologia este capabilă chiar să combine mai multe vulnerabilități pentru a simula preluarea controlului asupra unui sistem. Un alt test a relevat descoperirea unei vulnerabilități vechi de 27 de ani în sistemul de operare OpenBSD.
Potrivit companiei, „creșterea semnificativă a capabilităților ne-a determinat să nu îl punem la dispoziția tuturor utilizatorilor”. Această abordare reflectă preocuparea cu privire la posibilitatea ca instrumentul să fie utilizat în scopuri dăunătoare.
Acces Limitit și Cooperare cu Companii Mari
Din cauza potențialului său, Anthropic a decis să limiteze utilizarea modelului. Acesta va fi integrat într-un program restrâns de securitate cibernetică, numit „Project Glasswing”. Vor participa companii importante din domeniul tehnologiei, printre care Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Scopul este de a utiliza modelul pentru identificarea vulnerabilităților și îmbunătățirea securității sistemelor informatice ale acestor companii. Anthropic intenționează să publice ulterior concluziile programului.
De asemenea, compania poartă discuții cu oficiali ai guvernului SUA, recunoscând implicațiile pe care dezvoltarea acestei tehnologii le are asupra securității naționale. Colaborarea cu autoritățile ar putea deveni esențială în gestionarea riscurilor asociate.
Viitorul Inteligenței Artificiale și Riscurile Aferente
Dario Amodei, directorul general al Anthropic, a avertizat că și alte companii ar putea dezvolta sisteme similare. Experții estimează că modele AI cu astfel de capacități ar putea apărea pe piață în următoarele șase până la 18 luni. Această perspectivă subliniază necesitatea ca industria de securitate cibernetică să se pregătească pentru apariția unor instrumente AI avansate, capabile să identifice și să exploateze vulnerabilități informatice la o scară fără precedent.
Sursa: Mediafax
