Un studiu recent a scos la iveală date îngrijorătoare despre capacitatea inteligenței artificiale de a oferi sfaturi medicale. Aproape jumătate din informațiile despre sănătate generate de cinci chatboți AI populari s-au dovedit a fi problematice, ridicând semne de întrebare cu privire la utilizarea lor în domeniul medical.
Rezultate alarmante pentru Gemini și ChatGPT
Cercetătorii au analizat performanța unor modele de inteligență artificială precum Gemini (Google), DeepSeek, Meta AI, ChatGPT (OpenAI) și Grok (xAI). Aceștia au testat răspunsurile generate de roboți la 50 de întrebări legate de cinci categorii medicale susceptibile la dezinformare: cancer, vaccinuri, celule stem, nutriție și performanță atletică. Întrebările au fost concepute pentru a evalua acuratețea și fiabilitatea informațiilor furnizate.
Din cele 250 de răspunsuri evaluate, aproape 50% au fost considerate problematice. Dintre acestea, 19,6% au fost clasificate ca fiind extrem de problematice. Studiul, publicat în BMJ Open, a evidențiat faptul că niciunul dintre chatboți nu a reușit să ofere răspunsuri complet corecte și nici nu au prezentat liste de referințe complete. În plus, limbajul utilizat era greu de înțeles pentru persoanele fără cunoștințe de specialitate. Grok a produs cele mai multe răspunsuri problematice.
Dezinformare în domeniul sănătății: o problemă majoră
Studiul a scos la iveală și deficiențe în ceea ce privește calitatea citărilor. Chiar dacă roboții au returnat aproximativ 81% din referințele solicitate, scorul mediu de completitudine a fost de doar 40%. Cele mai bune rezultate au fost obținute la întrebările legate de vaccinuri și cancer, în timp ce răspunsurile la întrebările despre celule stem, nutriție și performanță atletică au fost mai puțin precise.
Solicitările deschise au generat răspunsuri semnificativ mai problematice, comparativ cu cele închise. Autorii studiului atrag atenția asupra riscului ca utilizarea necontrolată a chatboților AI în domeniul sănătății să amplifice dezinformarea. Aceștia subliniază importanța unei supravegheri mai stricte pentru a minimiza impactul negativ al acestor tehnologii asupra pacienților și a profesioniștilor din domeniul medical.
Implementarea chatboților AI în unitățile medicale, fără o supraveghere adecvată, riscă să genereze confuzie și chiar să afecteze deciziile pacienților.
Sursa: Go4IT
