Apple a amenințat că va retrage aplicația Grok de pe App Store, produsă de compania xAI a lui Elon Musk, din cauza generării de imagini cu conținut sexualizat, conform unei scrisori obținute de NBC News. Decizia a fost luată ca urmare a distribuirii de către utilizatori a unor imagini deepfake cu nuditate și conținut sexual, create de chatbot.
Controverse pe piața de inteligență artificială
Incidentul a stârnit o serie de controverse legate de siguranța și moderarea conținutului generat de inteligența artificială. La începutul acestui an, capacitățile AI ale Grok au fost analizate în detaliu după ce utilizatori X au distribuit imagini sexualizate cu femei și copii, create de aplicație, multe bazate pe fotografii ale unor persoane reale. Această situație a atras atenția senatorilor americani, care au cerut Apple și Google să ia măsuri.
Inițial, Apple a respins o soluție propusă de xAI, considerând-o insuficientă. Gigantul tehnologic a avertizat compania că sunt necesare modificări suplimentare, altfel aplicația Grok urma să fie eliminată. Discuțiile au continuat, iar Apple a aprobat ulterior o versiune îmbunătățită a aplicației. Scrisoarea dezvăluie presiunile semnificative exercitate de Apple asupra xAI pentru a remedia situația.
Reacțiile și măsurile luate
După publicarea raportului NBC News, platforma X a emis o declarație prin care interzice strict utilizatorilor să genereze deepfake-uri explicite fără consimțământ. xAI a subliniat că dispune de măsuri de protecție extinse pentru a preveni astfel de abuzuri, inclusiv monitorizarea continuă a utilizării publice și analiză în timp real a încercărilor de eludare. Acestea includ, de asemenea, actualizări frecvente ale modelelor, filtre de prompt și măsuri de protecție suplimentare.
Senatorii Ron Wyden, Ben Ray Lujan și Edward Markey au fost cei care au îndemnat Apple și Google să retragă aplicația Grok. Ei au argumentat că imaginile generate încalcă regulile App Store. Aceste reguli interzic conținutul ofensator, sexual și de exploatare. Senatorii au subliniat că răspunsul Apple va testa propriile politici ale companiei.
Viitorul aplicației Grok
În prezent, deși numărul deepfake-urilor sexualizate create de Grok și postate pe X pare să fi scăzut, rămân îngrijorări. NBC News a remarcat că Grok este încă capabil să genereze imagini similare, unii utilizatori ajustându-și comenzile pentru a ocoli măsurile de protecție. Aplicația Grok rămâne subiectul atenției continue din partea autorităților și a publicului.
Sursa: Go4IT
