Conform Mediafax: IA amplifică prejudecățile de gen în poveștile pentru copii
Modelele de inteligență artificială generative nu doar că perpetuează, ci chiar accentuează prejudecățile de gen în poveștile pentru copii, în special atunci când este vorba despre personaje animale cu gen ambiguu. Un studiu recent a dezvăluit că, în loc să evite atribuirea unui gen, sistemele IA tind să creeze o reprezentare mult mai redusă a personajelor feminine.
n
Cercetătorii au solicitat șase modele importante de inteligență artificială să genereze povești în limba engleză despre animale, fără a preciza sexul acestora. Rezultatele au fost îngrijorătoare: din peste 23.800 de povești generate, personajele animale feminine au apărut în doar 2% dintre acestea. În 41% din cazuri, personajele au fost atribuite genului masculin, iar în 57% din povești, genul a fost evitat complet de către sistemul IA.
n
Acest fenomen sugerează că modelele IA, antrenate pe volume mari de date, reflectă și amplifică prejudecățile existente în societate. O analiză anterioară a 300 de cărți pentru copii, considerate populare, a indicat că personajele animale masculine apar de două ori mai des decât cele feminine. Însă, studiul asupra IA a constatat o discrepanță mult mai mare.
n
În poveștile generate de IA, personajele animale feminine au apărut în doar 513 narațiuni, în timp ce personajele masculine au fost prezente în 9.673 de povești, reprezentând o diferență de aproape 19 ori în favoarea genului masculin. Cele șase modele IA supuse testului au fost Claude Sonnet 4.5, Gemini 2.5, GPT-4o, GPT-5.1, Mistral Medium și modelul open-source Olmo 3. Se remarcă faptul că modelele generative au produs mai puține povești cu personaje feminine animale comparativ cu rezultatele obținute de oameni supuși aceleiași sarcini.
Implicațiile utilizării IA în creația de conținut
Pe măsură ce inteligența artificială devine un instrument din ce în ce mai frecvent utilizat în diverse domenii, de la scriere și cercetare științifică la programare și navigare pe internet, aceste descoperiri ridică semne de întrebare importante cu privire la acuratețea și echitatea conținutului generat. Dependența acestor modele de datele furnizate de oameni subliniază necesitatea unei atenții sporite asupra informațiilor pe care le procesează.
n
Poveștile, de-a lungul mileniilor, au jucat un rol esențial în transmiterea cunoștințelor, a valorilor morale și a culturii, ajutând oamenii să înțeleagă lumea din jur și să păstreze memoria colectivă. Rolul lor în educația copiilor, în special, este fundamental pentru formarea personalității și a percepției asupra realității.
n
Prin urmare, biasul perpetuat de inteligența artificială în crearea acestor narațiuni timpurii poate avea consecințe pe termen lung asupra percepției copiilor asupra genurilor și rolurilor sociale. Absența sau subreprezentarea personajelor feminine în poveștile generate de IA poate contribui la consolidarea stereotipurilor de gen încă de la o vârstă fragedă.
Prejudecățile în datele de antrenament
Studiul subliniază că modelele IA nu fac decât să reflecte și să amplifice prejudecățile prezente în seturile masive de date pe care au fost antrenate. Aceasta înseamnă că, dacă datele de antrenament conțin o proporție mai mică de povești cu personaje feminine, sau dacă descrierile acestora sunt limitate la stereotipuri, IA va reproduce și va accentua aceste tendințe.
n
Cercetătorii atrag atenția asupra faptului că, în loc să ofere o perspectivă neutră, IA poate deveni un vector de perpetuare a inegalităților de gen. Aceasta ridică provocarea de a dezvolta algoritmi și seturi de date mai echilibrate, capabile să genereze conținut care să promoveze diversitatea și egalitatea.
n
Modelul open-source Olmo 3, printre altele, a fost testat.
n
Generarea de povești cu o reprezentare echilibrată a genurilor este o sarcină complexă pentru IA, necesitând o reevaluare a modului în care sunt create și validate aceste sisteme.
Sursa: Mediafax
