Organizația Națiunilor Unite, prin UNICEF, avertizează asupra unui fenomen tot mai îngrijorător în era digitală: proliferarea conținutului cu caracter sexual implicând minori, creat artificial cu ajutorul inteligenței artificiale. Într-un apel lansat recent, agenția child protection a solicitant autorităților mondiale să adopte măsuri ferme împotriva producției și distribuției acestor materiale periculoase, remarcând o creștere alarmantă a imaginilor sexualizate ale copiilor generate de programe AI.
Creșterea numărului de materiale AI cu riscuri pentru copii, o problemă globală
Potrivit UNICEF, numărul materialelor artificiale cu conținut explicit implicând minori a atins cote alarmante, generând un impact devastator asupra securității și bunăstării celor mici. Aceste imagini, false dar extrem de convingătoare, sunt produse și distribuite cu rapiditate pe platformele digitale, fiind dificil de detectat și eliminat, chiar și de către algoritmi de moderare sau echipe de specialiști.
„Există un număr tot mai mare de imagini artificiale care sexualizează minori,” declară reprezentanții UNICEF, subliniind că aceste creații nu doar incită la abuz, ci pot alimenta și alte forme de exploatare sexuală a copiilor. În plus, prezența acestor materiale pe internet creează un mediu periculos în care granițele dintre real și virtual devin din ce în ce mai estompate, complicând eforturile de protecție a celor vulnerabili.
Responsabilitatea companiilor și a guvernelor în lupta împotriva acestor abuzuri digitale
Organizația solicită companiilor care dezvoltă tehnologii bazate pe inteligență artificială să își asume o rol important în limitarea răspândirii acestor materiale inutile și periculoase. În condițiile în care aceste platforme servesc ca vehicule principale pentru distribuirea conținutului ilegal, ONG-urile și autoritățile trebuie să reglementeze și să colaboreze pentru introducerea unor pedepse stricte împotriva celor care creează și difuzează materiale sexuale generate de AI cu implicarea minorilor.
„Am făcut apel către state pentru a introduce pedepse împotriva materialelor realizate cu inteligență artificială care prezintă abuzuri sexuale asupra copiilor,” se precizează în comunicat. UNICEF consideră că legislația trebuie adaptată rapid pentru a face față noilor forme de criminalitate digitală, iar responsabilitatea nu poate fi doar a platformelor sociale, ci și a creatorilor acestor false imagini.
Contextul în creștere al exploatării minorilor în mediul online
Proliferarea acestor materiale nu este un fenomen izolat sau temporar. Organizațiile internaționale, dar și specialiștii în domeniul securității cibernetice, avertizează că evoluțiile tehnologice, în special dezvoltarea inteligenței artificiale, pot fi folosite atât în mod benefic, cât și în scopuri periculoase. În țări din întreaga lume, cazuri de exploatare a minorilor în mediul online, fie direct, fie prin produse create artificial, au fost raportate în creștere, întărind necesitatea unor măsuri internaționale concertate.
Guvernele și companiile de tehnologie sunt totodată puse în fața unei responsabilități majore, fiind imperative implementarea unor soluții de identificare și sancționare a celor care profită de evoluțiile AI pentru a crea sau distribui astfel de conținut. De altfel, recent, unele state au început să propună legislații speciale menite să criminalizeze și să pedepsească sever astfel de fapte, însă eforturile trebuie intensificate la nivel global.
Pe fondul acestei situații, UNICEF plănuiește să continue campaniile de informare și colaborarea cu industriile tehnologice, pentru a dezvolta detectoare mai eficiente și pentru a intensifica eforturile de educare a publicului și a creatorilor de conținut asupra riscurilor acestor materiale fictive generate de AI. În același timp, așteptările sunt ca noile reglementări și colaborări internaționale să reducă semnificativ răspândirea acestor forme de abuz în spațiul digital, protejând integritatea și inocența minorilor într-un mediu tot mai complex și vulnerabil.
