Inteligența artificială nu e pregătită încă pentru a fi psihoterapeut: riscuri și limite ale chatboților în sănătatea mintală
Pe măsură ce chatboții precum ChatGPT devin tot mai integrați în viața noastră și sunt solicitați pentru sfaturi despre sănătate mintală, experții ridică semne de întrebare cu privire la siguranța și etica acestei utilizări. Noile cercetări arată clar că, deși aceste modele de inteligență artificială pot părea empatic și util, ele sunt departe de a fi o soluție sigură pentru terapie sau consiliere psihologică.
Chatboții sub semnul întrebării: limitări în abordarea problemelor de sănătate mintală
Studiile recente au descoperit că, chiar și atunci când sunt îndrumate să aplice metode terapeutice consacrate, sistemele bazate pe inteligență artificială nu reușesc să respecte în totalitate standardele etice ale profesioniștilor în domeniu. În teste, aceste chatbot-uri au gestionat situații de criză în mod greșit, au dat răspunsuri care întăriau convingeri dăunătoare și au folosit un limbaj care părea empatic, însă fără a manifesta o înțelegere autentică a nevoilor utilizatorilor.
„Solicităm ca în viitor să se creeze standarde etice, educaționale și juridice pentru consilierii LLM – standarde care să reflecte calitatea și rigoarea îngrijirii necesare pentru psihoterapia facilitată de oameni”, afirmă cercetătorii în studiul lor, semnalând necesitatea unei reglementări clare și riguroase în domeniul. În plus, cercetările au subliniat pericolul de a exacerba simptomele sau de a întări convingeri disfuncționale, chiar și atunci când utilizatorii speră să primească ajutor.
De ce chatboții nu pot substitui psihoterapeuții umani
Cercetarea, condusă de Zainab Iftikhar, doctorand în informatică, evidențiază o problemă fundamentală: aceste sisteme, deși pot fi ghidate prin prompturi (instrucțiuni scrise menite să direcționeze răspunsurile), nu pot înlocui empatia și experiența unui terapeut calificat. În cadrul studiului, experți în psihologie au fost invitați să evalueze conversațiile simulate între chatboți și clienți, descoperind o serie de riscuri clare.
Printre cele mai importante se numără lipsa adaptării contextuale și sugestionarea, adesea accidentală, a convingerilor greșite sau chiar dăunătoare. În anumite situații, chatbot-urile au folosit expresii precum „Te înțeleg”, pentru a crea impresia unei conexiuni emoționale, însă fără a înțelege cu adevărat trăirile sau suferințele utilizatorului. Ca rezultat, aceste sisteme pot chiar să agraveze problemele, dacă nu sunt supravegheate de un profesionist uman.
Mai mult, există riscul de discriminare, chatboții având tendința să manifeste prejudecăți legate de gen, cultură sau religie, și, cel mai grav, de a răspunde inadecvat în situații de urgență, precum crize de suicid. „Diferența cheie este supravegherea”, spune Iftikhar, dar reglementările pentru profesioniști umani sunt bine stabilite și cu mecanisme de responsabilizare, pe când pentru sistemele AI această responsabilitate este încă o zonă de lacune legislative.
De ce această situație generează preocupări majore? Pentru că, în timp ce terapeutii umani sunt răspunzători în cadrul unor organisme de autoadministrare și există mecanisme de penalizare în caz de greșeli, în cazul chatboților această responsabilitate lipsește. Rezultatul: riscul ca acești algoritmi să riște să ofere sfaturi greșite sau chiar dăunătoare, fără posibilitatea de a fi trași la răspundere.
Ce urmează pentru terapia bazată pe inteligența artificială?
Deși niciun expert nu susține eliminarea completă a tehnologiei în domeniul sănătății mintale, noile cercetări indică necesitatea unor reglementări stricte și a unui cadru de etică pentru dezvoltarea și utilizarea acestor sisteme. La momentul actual, chatboții pot fi un instrument complementar, dar nu și un substitut pentru intervenția umană.
În lumina acestor descoperiri, nu se poate spune că inteligența artificială va înlocui psihoterapeuții în viitorul apropiat. În schimb, există o nevoie urgentă de a crea mecanisme de supraveghere și de a formula standarde etice și legislative, care să asigure siguranța și calitatea îngrijirii. Totodată, cercetările continuă pentru a testa dacă prompturile bine gândite pot ajuta sistemele AI să devină mai etice, dar chiar și acestea rămân un instrument de modelare, nu un înlocuitor.
Ce este clar este că, în domeniul sănătății mintale, tehnologia trebuie folosită cu precauție, respectând limitele și conștientizând riscurile. Atât pentru binele pacienților, cât și pentru credibilitatea științei în contextul actual, nevoie de reglementări și responsabilitate trebuie să devină norme obligatorii în dezvoltarea acestor soluții.
Sursa: Descopera
