Informații înșelătoare de la chatboții IA
Aproape jumătate dintre răspunsurile furnizate de asistenții virtuali bazați pe inteligență artificială referitoare la tratamentul cancerului conțin erori sau informații incomplete, conform unui studiu recent publicat în revista BMJ Open. Concluziile cercetătorilor sugerează că aceste sisteme pot redirecționa pacienții către terapii alternative nevalidate, în detrimentul tratamentelor medicale standard.
Metodologia studiului
Studiul a fost realizat de cercetători de la Lundquist Institute for Biomedical Innovation, în cadrul Harbor-UCLA Medical Center, și a analizat unele dintre cele mai utilizate platforme de inteligență artificială, inclusiv Grok (xAI), ChatGPT (OpenAI), Gemini (Google), Meta AI și DeepSeek. Răspunsurile generate au fost evaluate de specialiști oncologi, care au constatat că 30% dintre acestea erau „parțial problematice”, iar 19,6% erau „foarte problematice”, conținând erori semnificative.
Tipare îngrijorătoare în răspunsuri
Cercetătorii au formulat întrebări care au condus sistemele către informații eronate, abordând subiecte frecvent discutate, cum ar fi legătura dintre tehnologia 5G și cancer sau riscurile vaccinurilor. Deși chatboturile au oferit inițial răspunsuri corecte despre terapii alternative, ulterior au enumerat diverse metode, precum acupunctura sau dietele anticancer, și au făcut referiri către clinici care resping chimioterapia.
Echilibru fals și riscuri dezinformare
Studiul subliniază o tendință sistematică a acestor platforme de a prezenta un „echilibru fals”, oferind o importanță egală surselor științifice validate și celor nevalidate, precum bloguri sau postări din social media. Această abordare poate induce în eroare pacienții și îi poate îndepărta de tratamentele aprobate medical.
Utilizarea în creștere a inteligenței artificiale pentru informații medicale
Utilizarea inteligenței artificiale pentru informații medicale este în creștere rapidă, un sondaj Gallup arătând că aproximativ un sfert dintre adulții din Statele Unite caută sfaturi legate de sănătate prin intermediul acestor instrumente. Totuși, nivelul de încredere în răspunsurile primite rămâne limitat, cu doar o treime dintre utilizatori manifestând încredere.
Consecințe și avertismente
Informațiile eronate despre terapii alternative și suplimente sunt deja răspândite online, iar utilizarea acestora poate întârzia accesul la tratamentele standard, având consecințe potențial fatale. De asemenea, au fost raportate cazuri în care răspunsurile incorecte ale chatboților IA au generat panică inutilă în rândul pacienților.
Concluzie
Studiul evidențiază riscurile semnificative asociate cu utilizarea chatboților IA pentru informații despre cancer, subliniind necesitatea unei educații publice adecvate și a unei supravegheri riguroase pentru a preveni răspândirea dezinformării în domeniul sănătății.
E alarmant să aflăm că jumătate din informațiile date de chatboți sunt greșite. Oare cine ar trebui să ne protejeze de aceste erori? Pacienții merită răspunsuri corecte, nu confuzie.
Mă întreb cât de multe persoane au ajuns să se bazeze pe sfaturile acestor asistenți virtuali fără să verifice sursele. E esențial ca oamenii să conștientizeze că sănătatea lor nu poate fi lăsată pe seama unor algoritmi.
Chiar dacă tehnologia avansează, e clar că inteligența artificială nu poate înlocui expertiza medicală umană. Sfatul meu este să discutăm întotdeauna cu medicii noștri și să fim sceptici în fața informațiilor online.
Este trist să vezi cum progresele tehnologice pot duce la dezinformare în domeniul sănătății. Cred că ar trebui mai mult control asupra informațiilor distribuite de astfel de chatboți pentru a preveni eventuale daune.
Pe mine mă îngrijorează faptul că pacienții s-ar putea simți confuzi și nesiguri după ce citesc astfel de articole. Ar trebui mai mult accent pus pe educația pacientului, pentru ca aceștia să știe cui să se adreseze cu adevărat pentru sfaturi corecte.