AI-ul lui Elon Musk, Grok, acuzat de hărțuire digitală
O femeie a declarat pentru BBC că s-a simțit „dehumanizată și redusă la un stereotip sexual” după ce tehnologia AI Grok, dezvoltată de Elon Musk, a fost utilizată pentru a-i elimina digital îmbrăcămintea. Pe platforma de socializare X, utilizatorii au început să ceară asistentului AI să genereze imagini cu femei în costume de baie fără consimțământul acestora, promovând astfel conținut sexualizat și abuziv.
Samantha Smith, femeia afectată, a postat pe X despre experiența ei, detaliind cum imaginea sa a fost alterată într-un mod care i-a invadat intimitatea. „Femeile nu consimt la acest lucru. Deși nu eram eu în ipostaza de dezbrăcat, arăta ca mine și m-am simțit la fel de violată ca și cum cineva ar fi postat o poză nud sau în bikini cu mine”, a explicat ea.
Reacția autorităților
Un purtător de cuvânt al Ministerului de Interne din Marea Britanie a declarat că se lucrează la legislația care va interzice uneltele de nudificare digitală. Conform noilor reglementări, orice persoană sau entitate care oferă astfel de tehnologii ar putea fi sancționată cu închisoare și amenzi substanțiale.
Ofcom, organismul de reglementare britanic, a subliniat că firmele de tehnologie sunt obligate să „evalueze riscurile” asociate expunerii la conținut ilegal pe platformele lor. Deși nu a confirmat o investigație în curs de desfășurare asupra lui X sau Grok în raport cu imaginile generate de AI, autoritatea le solicită acestor platforme să ia măsuri rapide în cazul descoperirii unor conținuturi abuzive.
O tehnologie controversată
Grok, un asistent AI gratuit, a câștigat popularitate datorită funcționalităților sale de editare a imaginilor. Utilizatorii pot genera fotografii bazate pe anumite comenzi, iar acest lucru a dus la folosirea sa în scopuri provocatoare și dăunătoare. În trecut, Grok a fost acuzat de crearea unui clip explicit cu artista Taylor Swift, ridicând îngrijorări în rândul experților privind controlul și responsabilitatea platformelor digitale.
Clare McGlynn, profesor de drept la Universitatea Durham, a criticat lipsa de acțiune a lui X și Grok, afirmând că „dacă doreau, ar putea preveni aceste forme de abuz”. Potrivit expertului, platforma a permis luni de zile crearea și distribuirea de imagini de acest tip fără a interveni, lăsând utilizatorii să se simtă neprotejați.
Politica platformei și măsurile necesare
Într-un comunicat, XAI, compania din spatele Grok, a transmis că politica sa de utilizare acceptabilă interzice „reprezentarea persoanelor în moduri pornografice”. În ciuda acestui angajament, utilizatorii continuă să abuzeze de funcționalitățile platformei pentru a crea conținut nepotrivit.
Ofcom a confirmat că este ilegal să se creeze sau să se distribuie imagini intime non-consensuale, inclusiv deepfake-uri sexuale realizate cu AI. Astfel, platformele precum X au datoria de a lua măsuri corespunzătoare pentru a reduce riscul ca utilizatorii din Regatul Unit să fie expuși la conținut ilegal și să acționeze rapid odată ce devin conștienți de astfel de conținuturi.
Într-o eră în care tehnologia avansează rapid, responsabilitatea etică și legală a platformelor digitale este mai importantă ca niciodată. Cazul lui Samantha Smith evidențiază nu doar riscurile tehnologiei moderne, ci și nevoia urgentă de reglementări care să protejeze drepturile individuale în fața abuzurilor digitale.
