O companie de inteligență artificială, Anthropic, se află în discuții cu guvernul american privind noul său model AI, Mythos, pe care îl consideră prea periculos pentru a fi lansat public. Modelul prezintă riscuri cibernetice fără precedent, conform declarațiilor companiei. Discuțiile au loc în contextul în care industria bancară trage semnale de alarmă.
Riscuri cibernetice majore
Co-fondatorul Anthropic a subliniat importanța dialogului cu guvernul în cadrul unui eveniment economic mondial la Washington. Acesta a menționat că discuțiile despre modelul Mythos vor continua, inclusiv cu privire la modelele viitoare. Compania este preocupată de siguranța națională și dorește să evite obstacolele, referindu-se la o dispută publică anterioară cu guvernul, care a dus la etichetarea companiei ca risc pentru lanțul de aprovizionare luna trecută.
Designarea ca risc pentru lanțul de aprovizionare a venit după eșecul negocierilor cu Departamentul de Apărare al SUA privind modul în care acesta poate utiliza modelele AI ale Anthropic. Secretary Scott Bessent a convocat o întâlnire cu bancheri americani de rang înalt la Washington pentru a discuta modelul Mythos. Această întâlnire a încurajat executivii din bănci să utilizeze modelul Anthropic pentru a detecta vulnerabilități.
Colaborări și restricții
Anthropic intenționează să limiteze lansarea noului model AI la un număr restrâns de companii de tehnologie și securitate cibernetică. Printre acestea se numără Amazon, Apple și JP Morgan Chase. De asemenea, au fost raportări conform cărora Goldman Sachs, Citigroup, Bank of America și Morgan Stanley testează modelul Anthropic.
Institutul Guvernamental de Securitate AI din Regatul Unit (AISI) a emis un avertisment, menționând că Mythos reprezintă o „creștere” față de modelele anterioare în ceea ce privește amenințările cibernetice. Autoritățile de reglementare financiară din Regatul Unit discută, de asemenea, despre potențialele riscuri ale modelului Mythos.
