Conform Go4IT: O companie a cheltuit 500 de milioane de dolari într-o lună pe credite AI, după ce nu a impus limite de utilizare. Costurile uriașe ridică semne de întrebare asupra investițiilor în inteligența artificială și a promisiunilor legate de reducerea cheltuielilor.
Costurile AI pun presiune pe companii
Potrivit unor informații apărute recent, o companie a consumat rapid credite pentru utilizarea modelului Claude, fără să fi stabilit restricții sau praguri interne. Evenimentul scoate în evidență o problemă din ce în ce mai vastă: costul imens al utilizării inteligenței artificiale. Companiile sunt nevoite să gestioneze cu atenție cheltuielile generate de infrastructură și de accesul la modele prin API.
Mai multe corporații importante, printre care Costco, Delta Air Lines și IBM, au exprimat rezerve cu privire la eficiența AI comparativ cu sumele investite. Multe firme se confruntă cu costuri neașteptate, iar productivitatea promisă întârzie să apară.
Productivitatea promisă întârzie să apară
Discuțiile despre costurile ridicate asociate cu inteligența artificială s-au intensificat, mai ales după declarațiile lui Andrew Macdonald, noul COO al Uber. Oficialul a atras atenția asupra cheltuielilor mari legate de modelele AI și asupra faptului că productivitatea angajaților nu a crescut la nivelul anticipat inițial. Apoi au apărut informații potrivit cărora inginerii Uber ar fi epuizat bugetul companiei destinat AI pentru anul 2026.
În paralel, companii precum Amazon, Meta și Microsoft continuă restructurările și reducerea numărului de angajați, mizând pe automatizare și inteligență artificială. Aceste măsuri arată că, în ciuda promisiunilor, eficiența nu a venit la pachet cu reducerea costurilor.
Companiile caută soluții pentru reducerea cheltuielilor
Pe fondul acestor probleme, tot mai multe firme încearcă să limiteze consumul excesiv de tokeni AI. În industrie, acest fenomen este cunoscut sub numele de „tokenmaxxing”. Termenul descrie tendința unor echipe de a utiliza cât mai repede creditele disponibile pentru modelele AI.
Marile companii din domeniu, inclusiv Google, lucrează deja la dezvoltarea de modele și metode de inferență mai eficiente din punct de vedere al costurilor. Un raport Gartner estimează că, până în 2030, costurile de procesare pentru modelele de inteligență artificială generativă ar putea scădea la aproximativ o zecime din nivelul actual. Totuși, se așteaptă o creștere de până la 30 de ori a volumului de utilizare, pe măsură ce companiile adoptă agenți AI și fluxuri automate tot mai complexe.
Sursa: Go4IT
