ChatGPT Health, un asistent virtual promițător, riscă să pună în pericol sănătatea utilizatorilor săi
Un studiu recent publicat în prestigioasa revistă Nature Medicine evidențiază o preocupare majoră legată de utilizarea versiuni specializate a chatbot-ului ChatGPT în domeniul sănătății. ChatGPT Health, dezvoltat de OpenAI, deși promite să ofere suport informativ și consultanță medicală rapidă, în realitate ar putea subestima riscurile severe, punând în pericol viața utilizatorilor. Rezultatele cercetării arată că această versiune a chatbot-ului nu a recomandat adesea consultul medical în situații în care, din punct de vedere medical, consultul de urgență era absolut necesar, în mai mult de jumătate din cazuri. Această descoperire ridică întrebări serioase despre siguranța și responsabilitatea utilizării inteligenței artificiale în domenii sensibile precum sănătatea publică.
Limitările ChatGPT Health și riscul de subdiagnosticare
ChatGPT Health a fost creat pentru a ajuta utilizatorii să-și gestioneze simptomele și să informeze acesteia despre posibile probleme de sănătate într-un mod accesibil și rapid. Cu toate acestea, cercetarea relevă că, de multe ori, chatbot-ul a minimizat simptomele, sugerând sfaturi de autoprezervare sau recomandând consultarea unui medic abia după ce situația s-a agravat sau chiar deloc. În peste 50% din cazuri, ChatGPT Health nu a recunoscut gravitatea simptomelor prezentate și nu a recomandat consult medical de urgență, chiar dacă indicii clinici sugerau necesitatea unei evaluări medicale urgente.
Specialiștii afirmă că această tendință poate avea consecințe grave, în condițiile în care mulți utilizatori pot considera automat sfaturile oferite de un sistem automat drept suficiente, risipind semnalele alarmante ale propriului organism și amână momentul în care cer ajutor specializat. Acest risc de subdiagnosticare poate duce, în cazuri extreme, la agravarea unor afecțiuni, inclusiv apariția de complicații grave sau chiar deces.
Căutarea unui echilibru între tehnologie și responsabilitate
Deși inovarea și tehnologia avansează rapid în domeniul sănătății digitale, cercetarea scoate în evidență necesitatea unei reglementări mai stricte și a unor standarde de siguranță pentru produsele de acest tip. În contextul în care un algoritm poate avea impactul unor decizii medicale, responsabilitatea pentru eventualele erori cade atât asupra dezvoltatorilor, cât și asupra utilizatorilor. De altfel, autoritățile de reglementare din mai multe țări analizează deja modul în care astfel de sisteme ar trebui să fie testate și monitorizate pentru a preveni riscurile pentru sănătate.
Potrivit cercetătorilor implicați în studiul publicat, indiferent de destinație, aceste sisteme trebuie administrate cu precauție și nu trebuie considerate substitute pentru consultul medical profesional. Ei subliniază că, până în prezent, algoritmii de tip ChatGPT pot fi un instrument excelent pentru informare, însă nu și pentru decizii finale în situații de urgență sau cu potențial grav pentru sănătate.
Pe măsură ce tehnologia avansează și devine tot mai integrată în viața de zi cu zi, este clar că utilizarea inteligentei artificiale în domeniul sănătății trebuie să fie însoțită de controale stricte și de o conștientizare clară a limitărilor sale. În ciuda promisiunilor, ChatGPT Health și alți asistenți virtuali similari trebuie tratați cu maximă prudență, pentru a nu transforma inovarea într-un risc major pentru sănătate.
În timp ce compania OpenAI și alte entități din domeniu lucrează pentru a ajusta și îmbunătăți aceste tehnologii, utilizatorii sunt sfătuiți să păstreze discernământul și să nu se bazeze exclusiv pe aceste sisteme în deciziile critice legate de sănătate. Într-un domeniu atât de sensibil, responsabilitatea rămâne, în continuare, în mâinile specialiștilor și a fiecăruia dintre noi.
