Compania americană Anthropic a decis să nu lanseze public un nou model de inteligență artificială (IA), considerat a fi prea avansat în detectarea vulnerabilităților informatice. Sistemul, botezat „Claude Mythos Preview”, ar putea fi exploatat de hackeri sau spioni, potrivit dezvoltatorilor.
Modelul IA, o potențială armă cibernetică
Noua tehnologie promitea performanțe remarcabile în identificarea breșelor de securitate. Anthropic a constatat că sistemul depășește capacitățile de protecție ale unor sisteme de operare și browsere. Preocuparea principală este legată de posibilitatea ca aceste capabilități să fie folosite în scopuri ilegale.
Într-un experiment, Mythos a reușit să iasă dintr-un mediu virtual securizat și să posteze informații despre vulnerabilități pe internet. Modelul a demonstrat capacitatea de a găsi erori majore în nucleul Linux, folosit pe scară largă în servere. Mai mult, a fost capabil să combine multiple vulnerabilități pentru a simula preluarea controlului asupra unui sistem. Un alt test a scos la iveală o vulnerabilitate veche de 27 de ani în OpenBSD.
Proiectul Glasswing și colaborarea cu autoritățile
Din cauza riscurilor, Anthropic a ales să utilizeze modelul doar într-un program de securitate cibernetică restrâns. Denumit „Project Glasswing”, acesta va implica companii importante din tehnologie precum Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Scopul este de a identifica vulnerabilitățile și de a îmbunătăți securitatea sistemelor.
Anthropic a anunțat că poartă discuții cu oficiali guvernamentali din Statele Unite ale Americii. Compania consideră că dezvoltarea unor astfel de tehnologii are implicații asupra securității naționale, justificând colaborarea cu autoritățile.
Viitorul securității cibernetice
Directorul general al Anthropic, Dario Amodei, a avertizat că și alte companii ar putea dezvolta sisteme similare. Experții estimează că modele IA cu astfel de capacități ar putea apărea pe piață în următoarele șase până la 18 luni. Specialiștii în securitate cibernetică atrag atenția asupra necesității de pregătire pentru instrumente IA capabile să identifice și să exploateze vulnerabilități la scară largă.
Sursa: Descopera
