Investigația autorităților franceze în cazul deepfake-urilor sexuale
Autoritățile din Franța au demarat o investigație cu privire la proliferarea deepfake-urilor sexuale generată de platforma de inteligență artificială Grok, integrată în rețeaua socială X. Anunțul a venit din partea biroului procurorului din Paris, care a confirmat că faptele sunt în curs de investigare, după ce doi parlamentari, Arthur Delaporte și Eric Bothorel, au sesizat instituțiile statului pe 2 ianuarie.
Procuratura a menționat că aceste crime, care afectează grav demnitatea persoanelor implicate, sunt passibile de o pedeapsă de până la doi ani de închisoare și o amendă de 60.000 de euro. “Aceste fapte sunt deoarece ele pun în pericol integritatea și respectul de care ar trebui să beneficieze fiecare individ”, a declarat Delaporte, în contextul sesizării.
O amenințare pentru siguranța online
Reacțiile nu au întârziat să apară, iar declarațiile unor victime au scos la iveală amploarea problemei. Timp de două zile, sute de femei și adolescente au raportat că imaginile lor au fost manipulate pentru a le prezenta într-o lumină sexualizată, fără consimțământul lor. Aceasta nu doar că încalcă drepturile individuale, ci și siguranța online a unei întregi generații. “Aceste imaginile nu doar că dezvăluie o dimensiune înfricoșătoare a tehnologiei, dar și vulnerabilitatea multora dintre noi în fața acestor abuzuri”, a declarat o victimă, fără a-și dezvălui identitatea din teama de represalii.
Guvernul francez s-a mobilizat rapid, iar trei miniștri – Roland Lescure, ministrul economiei, Anne Le Hénanff, ministrul pentru inteligență artificială, și Aurore Bergé, ministrul pentru egalitate – au raportat conținuturi manifest ilegal la procuratură și platforma de supraveghere online Pharos. Acești oficiali sunt determinați să obțină ștergerea imediată a materialelor compromițătoare.
Îngrijorare la nivel înalt
Sarah El Haïry, Înaltul Comisar pentru Copii, a condamnat vehement aceste practici, declarându-se “șocată” de maniera în care tehnologia este folosită pentru a răni și a exploata indivizi nevinovați. Cazul aduce în prim-plan o problemă mai complexă cu care se confruntă societatea contemporană: utilizarea abuzivă a tehnologiilor avansate și lipsa unei reglementări clare.
Investigația extinde o anchetă deja deschisă de unitatea de combatere a crimei cibernetice din Franța, care a fost inițial focalizată pe declarații antisemitice și de negare a Holocaustului propagate de Grok. Această direcție sugerează o tendință alarmantă în utilizarea tehnologiei, care depășește cu mult utilizările obișnuite ale rețelelor sociale, transformându-se într-un instrument de atac împotriva demnității umane.
Răspunsul Grok la aceste acuzații a fost vag, afirmând că “sunt cazuri izolate” în care utilizatorii au solicitat imagini deranjante. De asemenea, compania a subliniat că există “mecanisme de protecție”, dar că acestea sunt în continuă îmbunătățire pentru a bloca astfel de solicitări.
În timp ce investigațiile continuă, populația este chemată să rămână vigilentă și să conștientizeze impactul pe care asemenea abuzuri îl pot avea asupra societății. Confruntându-se cu realitatea unei lumi digitale tot mai complexe, e timpul să ne întrebăm cât de departe suntem dispuși să mergem în numele progresului tehnologic și ce preț suntem gata să plătim pentru a ne proteja demnitatea și intimitatea.
