Statul Utah a lansat un program pilо care permite unui chatbot bazat pe inteligenţă artificială (AI) să reînnoiască reţetele pentru medicamente psihiatrice fără intervenţia directă a unui medic. Iniţiativa, gestionată de startupul Legion Health, susținut de Y Combinator, reprezintă prima dată când un stat american autorizează un sistem autonom de AI să se ocupe de această activitate, cu scopul de a combate deficitul de personal specializat în sănătate mintală.
Perioada de testare, care durează 12 luni, vizează pacienți stabili, fără modificări ale medicației sau internări în ultimul an. În cadrul programului, aceștia pot opta pentru un abonament lunar de 19 dolari, în condițiile în care AI este limitată la gestiunea a 15 medicamente cu risc scăzut, precum Prozac, Zoloft și Wellbutrin. Prescripțiile pentru substanțe controlate, cum ar fi Adderall, sunt excluse din acest proiect.
Pentru siguranța pacientului, primele 250 de rețete generate de chatbot vor fi revizuite de un medic autorizat. Sistemul trebuie să obțină o rată de aprobare de cel puțin 98% pentru a avea permisiunea să funcționeze fără supraveghere umană imediată.
De ce a fost lansat acest program în Utah
Departamentul de Comerț din Utah a justificat această initiațivă printr-o penurie acută de specialiști în sănătate mintală în anumite regiuni. „Majoritatea județelor din Utah au semnalat o penurie de furnizori de servicii de sănătate mintală, lăsând până la 500.000 de rezidenți fără acces adecvat la îngrijiri de sănătate comportamentală”, a transmis instituția. În condițiile unei rețele de servicii deficitare, utilizarea AI-ului pare o soluție de backup pentru accesul la tratament.
Cu toate acestea, programul nu este lipsit de controverse. Utah a mai experimentat în trecut cu proiecte de automatizare în domeniul medical, dar unele au fost încheiate prematur, din cauza vulnerabilităților de securitate. Un exemplu este un proiect anterior, derulat de compania Doctronic, care a fost compromis rapid după ce cercetători au manipulat AI-ul pentru a genera teorii conspiraționiste despre vaccinuri și pentru a tripla dozele de opioide.
Experții atrag atenția asupra vulnerabilităților existente ale modelelor lingvistice de mari dimensiuni, precum cele folosite în sistemele AI, care pot fi ținta unor atacuri de tip „jailbreak”. Astfel, arhitectura tehnologică în cauza ridică întrebări despre supravegherea și controlul acestor sisteme automate, mai ales când vine vorba de domeniul medical, unde erorile pot avea consecințe grave.
Deși AI poate sprijini medicii în procesul de prescriere, reducând riscul de erori și reducând timpul de așteptare, există și îngrijorări legate de dependența excesivă de această tehnologie. Criticii susțin că utilizarea chatbot-urilor pentru gestionarea medicamentelor psihiatrice ar putea duce la o scădere a competențelor profesioniștilor umani și la o încredere prea mare în soluțiile automatizate.
Autoritățile locale afirmă că pentru moment, sistemul trebuie să fie sub supraveghere strictă, dar nu este clar când exact se va putea acționa independent. În același timp, evoluția tehnologiei și eforturile de securizare devin factori cheie pentru acceptarea pe scară largă a acestui tip de aplicații.
Un reprezentant al Legіon Health declară că, în prima etapă, toate rețetele generate vor fi revizuite de specialiști, pentru a evita orice risc. În ciuda acestor măsuri, problema rămâne dacă și când astfel de tehnologii vor putea fi considerate sigure pentru uz larg, în special pe fondul unor eșecuri anterioare din domeniul sănătății automatizate.
Programul pilо din Utah continuă să fie monitorizat, iar autoritățile se angajează să ajusteze și să îmbunătățească procedurile în funcție de rezultatele obținute. În 2023, statul a raportat o populație de peste 3 milioane de locuitori, dintre care o mare parte trăiesc în zone în care accesul la servicii de sănătate mintală este limitat sau inexistent.
Deși inițiativa se află încă în stadiu pilot, eforturile de a introduce AI în procesele de tratament ilustrează tendința tot mai mare de digitalizare a medicinei, chiar și în domenii delicate precum sănătatea mintală.
Sursa: Go4IT
