OpenAI, compania fondată de Sam Altman, a avut momente în care a afirmat public angajamentul pentru siguranța dezvoltării inteligenței artificiale, comparativ cu resursele alocate și măsurile concrete. În același timp, sursele din interior indică discrepanțe majore între promisiuni și realitatea resurselor disponibilizate pentru cercetare. De exemplu, chiar și după anunțurile oficiale, echipa dedicată siguranței avansate a AI nu a beneficiat de finanțarea promisă, fiind limitată, din punct de vedere al resurselor, la doar câteva procente din totalul computational al companiei. La începutul anului 2023, în cadrul unor întâlniri interne, s-a ajuns chiar la o renegare a promisiunilor făcute anterior de Altman, acesta preferând să propună crearea unei echipe interne specializate pe înalte standarde de „superaliniere”. În ciuda anunțurilor oficiale privind alocarea a 20% din resursele de calcul pentru această inițiativă, informațiile obținute de surse apropiate echipei arată că, de fapt, resursele reale puse la dispoziție variau între 1 și 2 procente. Mai mult decât atât, hardware-ul folosit pentru cele mai sensibile proiecte era din cele mai vechi, cu chip-uri slabe, ceea ce sugerează o lipsă de preocupare pentru cele mai exigențe nevoi de siguranță.
Unul dintre angajații foști ai companiei a relatat că Ilya Sutskever, directorul tehnic, a devenit tot mai preocupat de aspectele legate de siguranță și riscuri, în condițiile în care timpul pentru atingerea unei inteligențe artificiale generale avansate părea tot mai aproape. Conform acestei surse, Sutskever a fost implicat în discuții intense despre necesitatea ca întreaga echipă să se concentreze pe probleme de siguranță, pentru a evita riscul de dezastru. Cu toate acestea, echipa dedicată „superalignment” a fost dizolvată în anul următor, fără a-și îndeplini misiunea. În spatele acestei decizii stau, potrivit unor informații confidențiale, motive legate de resursele insuficiente și de prioritățile orientate spre profit, în condițiile în care hardware-ul învechit din interiorul companiei a fost ales pentru cele mai critice domenii de cercetare. De altfel, unele voci din cadrul echipei au afirmat că resursele alocate nu doar că nu au fost suficiente, ci au fost și deturnate pentru activități comerciale.
Un alt scandal intern a fost legat de lipsa transparenței în privința aplicațiilor și a testelor de siguranță ale noului GPT-4. În decembrie 2022, membrii Consiliului de Administrație ai OpenAI au descoperit că anumite funcționalități promovate ca fiind aprobate pentru siguranță nu au fost, de fapt, supuse unui proces oficial. De exemplu, opțiuni de personalizare și utilizare ca asistent personal nu aveau documentație clară, aflând ulterior că au fost folosite fără aprobări explicite. Un alt aspect exploziv a fost scoaterea în neştire, fără a fi comunicate oficial, a lansării unei versiuni a ChatGPT în India, înainte de finalizarea procesului de verificare a siguranței, o situație care a atras critici din partea experților și a mediului de siguranță din domeniu. În ciuda protestelor și a preocupărilor legate de aceste schimbări, conducerea companiei a continuat să ignore semnalele de alarmă. La finalul anului 2022 și începutul anului 2023, tensiunile interne s-au amplificat, specificându-se că liderii în domeniul AI, precum Sam Altman, și-au păstrat un comportament vechi de comunicare ambiguă sau chiar de negare a riscurilor reale. Într-o întâlnire din decembrie, Altman a susținut că anumite componente ale GPT-4 au fost aprobate de un Consiliu de siguranță, deși, ulterior, s-a aflat că aceste validări oficiale lipseau, ceea ce a declanșat nemulțumire în rândul membrilor decizionali. Între timp, aceste controverse au amplificat îngrijorările în comunitatea științifică și tehnologică privind angajamentul real al OpenAI pentru gestionarea riscurilor legate de dezvoltarea IA avansate. În anul 2024, compania continuă să se confrunte cu provocări majore legate de transparență și responsabilitate în domeniul creșterii și controlului tehnologiilor de ultimă generație. Sursa: Newyorker.comOpenAI și promisiunile contradictorii privind siguranța inteligenței artificiale
Conflicte și tensiuni în cercul de conducere
Informații despre lipsa transparenței și riscuri neclare
OpenAI și promisiunile contradictorii privind siguranța inteligenței artificiale OpenAI, compania fondată de Sam Altman, a avut momente în care a afirmat public angajamentul pentru siguranța dezvoltării inteligenței artificiale, comparativ cu resursele alocate și măsurile concrete
