Experții avertizează că inteligența artificială (IA) ar putea remodela profund modul în care opinia publică este formată și cum funcționează sistemele democratice. Cercetătorii sunt îngrijorați de capacitatea tot mai mare a personajelor virtuale generate de IA de a imita comportamentul uman online, manipulând astfel conversațiile și influențând punctele de vedere.
Un document recent publicat într-o revistă de specialitate detaliază modul în care aceste entități digitale pot intra în comunități online, participând la discuții și influențând percepții cu o viteză uluitoare. Spre deosebire de rețelele de boți din trecut, aceste agenți IA pot coordona acțiuni, pot răspunde la feedback și menține narațiuni coerente pe mii de conturi simultan.
Cum funcționează influența IA
Progresele rapide în domeniul modelelor lingvistice de mari dimensiuni și al sistemelor multi-agent permit operatorilor să gestioneze rețele extinse de „voci” IA. Aceste personaje pot adopta limbajul și tonul adecvat, interacționând într-un mod care pare natural pentru utilizatorii umani. Ele pot efectua milioane de experimente la scară mică, pentru a determina care mesaje sunt cele mai convingătoare.
Acest lucru le permite să-și perfecționeze strategiile de comunicare în timp real și să genereze un așa-zis consens public larg. În realitate, acest consens este creat artificial, fiind conceput pentru a influența discuțiile politice și sociale.
Riscurile reale ale deepfake-urilor și știrilor false
Deepfake-urile și știrile false reprezintă semnale timpurii ale acestei evoluții. Acestea au influențat deja discuțiile electorale în țări precum Statele Unite, Taiwan și India, potrivit informaticianului dr. Kevin Leyton-Brown de la Universitatea din Columbia Britanică. În paralel, organizațiile de monitorizare au identificat rețele pro-Kremlin care răspândesc volume mari de conținut online.
Se crede că această activitate are scopul de a influența datele utilizate pentru antrenarea viitoarelor sisteme de IA, afectând potențial modul în care aceste sisteme se comportă și ce informații prioritizează.
Impactul asupra democrației
Experții avertizează că „roiurile” de IA ar putea modifica echilibrul de putere în societățile democratice. Dr. Leyton-Brown a subliniat că aceste sisteme vor schimba încrederea oamenilor în informațiile online. „Un rezultat probabil este scăderea încrederii în vocile necunoscute de pe rețelele sociale, ceea ce ar putea da putere vedetelor și ar face mai dificilă afirmarea mesajelor venite de la nivelul de bază”, a explicat acesta.
În contextul acestor evoluții, este esențială o înțelegere aprofundată a modului în care IA modelează mediul informațional și influențează percepțiile publice în România.
Sursa: Mediafax
