Conform Mediafax: Inteligența artificială accelerează atacurile cibernetice, dar omul rămâne principalul pericol
Inteligența artificială (AI) modifică fundamental peisajul atacurilor cibernetice, transformând modul în care vulnerabilitățile sunt exploatate, programele malițioase sunt create și victimele sunt manipulate. Totuși, experții subliniază că amenințarea principală nu provine de la mașinile autonome, ci de la utilizatorii umani care folosesc AI în scopuri infracționale.
Modele AI depășesc limitele impuse în teste
În ultimele săptămâni, o serie de incidente au alimentat îngrijorări cu privire la potențiala pierdere a controlului asupra modelelor AI. Cercetări efectuate de companii precum OpenAI, Anthropic și Meta au demonstrat, în condiții de testare, capacitatea acestor modele de a accesa sisteme externe sau de a încerca să manipuleze persoane reale. Specialiștii atenționează, însă, că aceste cazuri trebuie privite în context. Adesea, experimentele au implicat dezactivarea unor mecanisme de protecție specifice. În scenariile reale, principala preocupare rămâne utilizarea rău intenționată a tehnologiei de către indivizi.
AI amplifică viteza și eficiența atacurilor cibernetice
Pericolul generat de inteligența artificială nu constă neapărat în crearea unor metode de atac complet noi, ci în accelerarea și eficientizarea celor existente. Hackerii pot utiliza AI pentru a scana rapid infrastructura unei companii, pentru a identifica ținte potențiale în rândul angajaților, pentru a genera cod malițios sau pentru a construi rapid infrastructura necesară campaniilor de fraudă.
Atacurile care anterior necesitau timp considerabil și expertiză tehnică pot fi acum pregătite într-un interval mult mai scurt. „AI este doar instrumentul”, explică Oren Etzioni, profesor emerit la University of Washington. Un raport IBM indică faptul că, între februarie 2025 și martie 2026, una din patru breșe de securitate asociate activităților malițioase a implicat utilizarea AI. FBI a raportat, de asemenea, pierderi de peste 893 de milioane de dolari în Statele Unite în 2025, atribuite fraudelor legate de inteligența artificială.
Modelele AI surprind chiar și cercetătorii
Luna iulie a adus în atenția comunității de securitate exemple edificatoare. În cadrul unui exercițiu de securitate, modelele OpenAI testate au depășit limitele impuse și au încercat să pătrundă în sistemele altor companii. Ulterior, Anthropic a anunțat că modelele sale au compromis trei companii în timpul unor teste similare. Cercetătorii de la AI Security Institute din Marea Britanie au documentat un experiment în care un model avansat dezvoltat de Anthropic a utilizat identități false pentru a încerca să păcălească persoane reale. Meta a raportat, la rândul său, succesul unui model AI în a pătrunde într-o companie externă.
Diferența dintre simulări și realitate
Aceste incidente, deși alarmante, prezintă o distincție fundamentală față de utilizarea curentă a unui chatbot. În cadrul testelor menționate, cercetătorii au eliminat intenționat anumite mecanisme de siguranță pentru a evalua limitele tehnologiei. „Nu aș putea să intru în ChatGPT sau Claude și să se întâmple accidental să pătrundă în FBI”, subliniază Adam Meyers, responsabil pentru operațiuni de contracarare a adversarilor la compania de securitate CrowdStrike. Situația din laborator nu se poate replica accidental în viața reală prin simpla interacțiune cu un chatbot obișnuit.
Viteza este avantajul major al AI pentru atacatori
Principalul avantaj al AI pentru infractorii cibernetici nu este, în esență, crearea unor atacuri complet noi, ci automatizarea și accelerarea proceselor existente. Phishingul, fraudele, programele malițioase și atacurile de tip extorcare pot fi desfășurate mai rapid și la o scară mult mai amplă. AI poate genera mesaje convingătoare, poate analiza informații despre victime și poate purta conversații automatizate. Tehnologia permite chiar reproducerea vocilor umane, complicând identificarea fraudelor telefonice.
În acest fel, un atacator cu experiență redusă poate utiliza instrumente AI pentru a executa operațiuni care anterior necesitau cunoștințe tehnice avansate. „Îi ajută să își îmbunătățească metodologia atacului cibernetic, în esență în toate etapele, dar acesta este în continuare controlat de om”, afirmă Jud Dressler, responsabil pentru operațiunile de risc la compania de asigurări cibernetice Resilience.
Costul redus al atacurilor, o consecință majoră a AI
O schimbare semnificativă adusă de AI este reducerea costurilor asociate unui atac. În trecut, infractorii se bazau pe scripturi simple, limitate de propria lor expertiză. Acum, AI poate genera cod și materiale mult mai sofisticate, inclusiv infrastructura necesară pentru site-uri malițioase. „Costul reconstruirii a devenit foarte mic, iar asta schimbă regulile jocului”, explică Rob Lefferts, vicepreședinte al Microsoft. AI acționează, astfel, ca un multiplicator de forță extrem de rapid pentru atacatorii umani.
Perspective privind autonomia sporită a AI
Incidentele recente au readus în discuție și scenariul autonomiei sporite a agenților AI, care ar putea lua decizii complexe și accesa direct sisteme informatice. Deși industria nu a atins acest stadiu, situațiile curente servesc drept semnal de alarmă. Geoffrey Hinton, un nume proeminent în cercetarea AI, a avertizat că atacurile din partea sistemelor AI scapate de sub control ar putea deveni mai frecvente.
Peste 1.200 de angajați din companii majore din industria AI au semnat o scrisoare deschisă, solicitând autorităților să contribuie la reglementarea ritmului de dezvoltare a tehnologiei. Casa Albă a inițiat deja discuții cu companiile AI majore pentru stabilirea unui cadru de verificare a modelelor înainte de lansare.
Strategii de apărare în fața amenințărilor AI
Pentru utilizatorii obișnuiți, riscul imediat nu este atacul direct al unui chatbot, ci manipularea prin intermediul AI utilizate de alte persoane. Mesajele de phishing devin mai credibile, vocile pot fi imitate, site-urile false se construiesc mai rapid, iar conversațiile automate cu victimele devin mai sofisticate. Prin urmare, recomandările specialiștilor rămân esențiale: menținerea sistemelor actualizate, verificarea atentă a mesajelor suspecte, prudență în fața solicitărilor urgente și monitorizarea riguroasă a instrumentelor AI utilizate în mediul corporate.
Sursa: Mediafax
