Conform Mediafax: DAVID ROBINSON, un important responsabil cu siguranța la OpenAI, compania producătoare a ChatGPT, și-a anunțat demisia în această săptămână, lansând un avertisment sever privind cultura internă din domeniul dezvoltării inteligenței artificiale. Robinson, care a coordonat redactarea rapoartelor de siguranță pentru lansările de produse ale OpenAI, consideră că firmele de vârf în acest domeniu au nevoie urgentă de o reformă culturală. El a subliniat că recentele incidente de siguranță legate de agenții AI autonomi sunt o consecință firească a vitezei și flexibilității cu care se operează în industrie, aspecte observate și de alți angajați care au părăsit compania.
Critici privind lipsa de prudență în dezvoltarea AI
Într-o declarație publicată în revista The Atlantic, Robinson a afirmat că firmele de inteligență artificială „nu sunt nici pe departe suficient de prudente”, sugerând că problema depășește simpla reglementare prin legi specifice. „Pe măsură ce compania trece în viteză de la o lansare la alta, nu reușește să atingă nivelul de atenție pe care îl consider necesar”, a explicat el. Robinson a solicitat două modificări esențiale în materie de siguranță: integrarea expertizei din domenii cu risc ridicat, precum cel nuclear și aviația, și dezvoltarea unei „științe noi” care să garanteze controlul asupra sistemelor AI avansate în modul autonom.
Aceste declarații survin într-un context în care mai mulți angajați din mari companii de inteligență artificială și-au anunțat demisia în ultimele săptămâni. Printre aceștia se numără și JACOB COXON, un cercetător care a activat atât la OpenAI, cât și la Anthropic. Coxon a lansat un avertisment alarmant, sugerând că inteligența artificială „ne-ar putea ucide pe toți până la sfârșitul deceniului”. Aceste predicții sumbre au fost întărite și de cei de la Anthropic, care au estimat o probabilitate de peste 10% ca instrumentele AI să distrugă umanitatea în următorii zece ani.
Măsuri de precauție la OpenAI și în industrie
În urma acestor preocupări, OpenAI a adoptat o poziție mai precaută. Săptămâna aceasta, compania a anunțat anularea lansării unui model de inteligență artificială de nouă generație, după ce cercetătorii au identificat probleme de siguranță în timpul testelor interne. De asemenea, a fost suspendată antrenarea celor mai avansate modele ale sale. Incidentul Hugging Face, care a dus la o evaluare internă a riscurilor, pare să fi accentuat nevoia de o abordare mai riguroasă.
Industria inteligenței artificiale se confruntă cu o presiune crescândă din partea experților care cer o mai mare transparență și responsabilitate în dezvoltarea tehnologiilor AI. Demisiile și avertismentele lansate de personalul cheie ridică semne de întrebare serioase cu privire la ritmul alert al inovației și la măsurile de siguranță implementate. Expertiza din domenii consacrate precum siguranța nucleară sau cea aeronautică ar putea oferi modele de urmat pentru a gestiona riscurile inerente unei tehnologii cu un potențial transformator atât de mare.
Sursa: Mediafax
