AI și adevărul din spatele răspunsurilor automate. Experții atrag atenția asupra limitelor chatbot-urilor
Tot mai mulți specialiști avertizează că inteligența artificială prezintă limitări importante atunci când este folosită pentru informare în domeniul medical sau financiar, în special în ceea ce privește acuratețea, calitatea surselor și claritatea răspunsurilor oferite de chatbot-uri.
Un studiu recent publicat în BMJ Open atrage atenția asupra calității răspunsurilor oferite de chatboții de inteligență artificială pe subiecte medicale sensibile. Studiul a analizat cinci dintre cele mai utilizate modele de inteligență artificială: Gemini (Google), DeepSeek (High-Flyer), Meta AI (Meta), ChatGPT (OpenAI) și Grok (xAI). Cercetătorii au adresat fiecărui sistem câte 10 întrebări din cinci domenii medicale considerate sensibile: cancer, vaccinuri, celule stem, nutriție și performanță sportivă.
Cercetarea arată că aproape jumătate dintre răspunsuri au fost considerate problematice, dintre care aproximativ 30% au fost catalogate ca parțial eronate sau înșelătoare, iar aproape 20% ca fiind grav problematice.
Diferențele dintre modelele analizate au fost minime, fără variații semnificative în ceea ce privește acuratețea generală. Totuși, Grok a înregistrat un număr mai mare de răspunsuri grav problematice decât nivelul așteptat într-o distribuție aleatorie.
Dezinformarea este considerată o amenințare majoră pentru sănătatea publică, deoarece se poate răspândi mai rapid și mai profund decât informațiile corecte validate științific. Deși chatboții bazați pe inteligență artificială sunt antrenați pe volume mari de texte disponibile public, chiar și o proporție redusă de date eronate sau neverificate poate influența semnificativ calitatea răspunsurilor generate.
În ultimii ani, aceste sisteme au fost integrate rapid în numeroase domenii, inclusiv în medicină. O mare parte dintre utilizatori nu au pregătire de specialitate și apelează la chatboți pentru informații despre sănătate, ceea ce crește riscul de expunere la conținut incorect sau înșelător. În plus, aceste instrumente nu sunt autorizate să ofere recomandări medicale și pot funcționa pe baza unor informații care nu sunt mereu actualizate.
O investigație realizată de BBC arată că sistemele de inteligență artificială pot fi manipulate relativ ușor pentru a transmite informații false sau distorsionate, inclusiv în rezultate oferite de platforme precum Google sau ChatGPT. Jurnaliștii BBC au demonstrat că, prin publicarea unui singur articol online, sistemele AI pot prelua și redistribui informații false ca fiind reale. În acest experiment, mai multe chatboturi precum ChatGPT și Gemini au ajuns să transmită informații fabricate despre o persoană, ceea ce a ridicat semne de întrebare privind modul în care sunt generate răspunsurile.
Autorii investigației au explicat că au creat intenționat conținut fals pentru a testa sistemele, iar rezultatele au apărut rapid în răspunsurile generate de AI, inclusiv în rezumatele afișate de Google Search.
Specialiștii citați în anchetă avertizează că acest tip de manipulare este deja utilizat la scară largă, inclusiv pentru a influența informații despre sănătate sau finanțe personale.
„Trebuie să presupui că ești manipulat până când vor exista sisteme mai bune de protecție”, a declarat Lily Ray, fondatoarea unei companii de consultanță SEO și AI.
Aceasta a explicat că, spre deosebire de vechiul model de căutare, unde utilizatorii aveau mai multe surse, sistemele AI oferă adesea un singur răspuns, ceea ce crește riscul de dezinformare.
Reprezentanții Google au transmis că actualizările recente ale politicilor nu reprezintă o schimbare de direcție, ci doar o clarificare a regulilor deja existente.
„Am aplicat de mult timp politicile noastre anti-spam și protecțiile pentru funcțiile de căutare generativă și le îmbunătățim constant pentru a ține pasul cu noile metode de abuz”, a declarat un purtător de cuvânt al Google.
Cercetătorii din domeniu susțin că, în ciuda măsurilor anunțate, tehnicile de manipulare continuă să funcționeze în unele cazuri. Aceștia au observat situații în care site-uri auto-promovate pot influența răspunsurile generate de AI, inclusiv în domenii precum recenzii sau informații comerciale.
„În forma sa de bază, problema ține de impactul economic, dar în cazuri mai grave poate duce la decizii medicale sau financiare greșite”, a explicat Harpreet Chatha, consultant SEO.
Potrivit experților, Google și alte companii tehnologice testează în prezent noi metode pentru a reduce influența conținutului fals, inclusiv excluderea surselor considerate nesigure din răspunsurile generate.
Lily Ray a observat că unele companii sunt eliminate din rezultatele AI atunci când există suspiciuni de auto-promovare excesivă sau conținut manipulator, chiar dacă sursele continuă să fie indexate.
Experții au atras atenția că, în contextul creșterii utilizării AI la nivel global, utilizatorii ar trebui să trateze cu prudență răspunsurile generate automat și să verifice informațiile din surse independente, mai ales atunci când este vorba despre sănătate, finanțe sau decizii importante.
