Prezentările generate de Inteligența Artificială (AI) în motorul de căutare Google, promovate ca instrumente utile pentru utilizatori, ascund o problemă majoră: acuratețea precară. Chiar dacă sistemul afișează, de obicei, mai multe surse citate, erorile sunt numeroase și pot conduce la răspândirea de informații false.
Rate de eroare semnificative
Un studiu recent arată că prezentările AI oferă răspunsuri corecte în nouă din zece cazuri. Procentul de 90% pare bun, dar în contextul a peste cinci trilioane de căutări potențiale până la finalul anului 2026, această rată de eroare devine un motiv de îngrijorare. Asta înseamnă zeci de milioane de răspunsuri discutabile în fiecare oră și sute de mii de erori în fiecare minut.
Acuratețea este greu de verificat. Un răspuns greșit poate fi corectat la o nouă căutare, ceea ce face sistemul imprevizibil. Prezentările AI apar în partea de sus a paginii de rezultate, fapt care îi determină pe mulți utilizatori să le considere fiabile.
Surse problematice și posibile manipulări
O parte din erorile funcției „AI Overview” provin din sursele folosite. Cercetătorii au descoperit că platforme precum Facebook și Reddit sunt citate frecvent, chiar și atunci când este vorba de informații incorecte. În unele cazuri, AI citează corect surse credibile, dar le interpretează eronat.
Există și riscul manipulării intenționate. Persoanele care cunosc vulnerabilitățile sistemului ar putea crea conținut fals cu scopul de a-i crește vizibilitatea. AI-ul ar putea prelua aceste informații fără să detecteze erorile, generând răspunsuri incorecte. Un reprezentant Google a declarat că sistemele lor folosesc aceleași mecanisme de filtrare ca motorul de căutare. Nu au fost oferite detalii despre o posibilă îmbunătățire a sistemului.
Recomandări pentru utilizatori
Este important ca utilizatorii să trateze cu scepticism informațiile furnizate de aceste instrumente. O eroare la fiecare zece răspunsuri poate părea minoră, dar devine relevantă având în vedere numărul mare de căutări zilnice. Studiile sugerează, de asemenea, că dependența excesivă de astfel de tehnologii poate afecta capacitățile cognitive.
Avertismentul afișat de sistem – „AI-ul poate greși, așa că verifică informațiile!” – rămâne cea mai sigură recomandare pentru utilizatori.
Sursa: Descopera
