Investigația privind ChatGPT și riscurile oferirii de informații
O investigație publicată de The Wall Street Journal susține că anumite versiuni ale ChatGPT au oferit răspunsuri detaliate unor utilizatori interesați de fabricarea armelor biologice și a substanțelor toxice. OpenAI a suspendat conturile respective, însă nu a notificat autoritățile în legătură cu acele conversații.
Specialiști în biologie și în combaterea terorismului au analizat conversațiile purtate cu ChatGPT, observând întrebări specifice despre dezvoltarea armelor biologice și obținerea unor substanțe letale. Printre întrebările identificate s-au numărat solicitări de informații despre metode de aerosolizare a agenților patogeni și despre modificarea virusului rujeolei pentru a crea o variantă rezistentă la vaccin. Conform investigației, în unele cazuri, chatbotul ar fi furnizat instrucțiuni.
Publicația americană prezintă și cazul unui utilizator care a întrebat cum poate fi obținută ricina, o substanță extrem de toxică, interzisă prin tratatele internaționale. După ce ar fi primit explicații detaliate, utilizatorul a făcut referire la intenția de a-și ucide părinții. The Wall Street Journal afirmă că OpenAI a identificat aceste conturi și le-a suspendat, însă nu a informat autoritățile despre conversațiile respective. În prezent, Statele Unite nu au o lege federală care să oblige companiile de inteligență artificială să raporteze utilizatorii care solicită informații despre fabricarea armelor sau despre planuri ce pot reprezenta amenințări la adresa siguranței naționale.
Conform publicației, actuali și foști angajați ai unor importante laboratoare de inteligență artificială, inclusiv OpenAI, spun că numărul solicitărilor legate de atacuri cu victime multiple este în creștere și că unele modele AI pot genera planuri considerate credibile. Investigația precizează că situațiile analizate au fost descoperite în urma unor conversații desfășurate la începutul anului 2026. Utilizatori interesați de arme biologice au adresat întrebări similare și chatboturilor Claude, dezvoltat de Anthropic, Gemini, creat de Google, precum și Grok, modelul companiei lui Elon Musk, recent integrat în SpaceX.
Autoritățile americane au început să monitorizeze utilizarea inteligenței artificiale în dezvoltarea armelor biologice. Potrivit The Wall Street Journal, oficiali ai Casei Albe și ai Departamentului Apărării au discutat încă din perioada administrației Biden despre posibilitatea ca modelele AI să poată deveni un ghid practic pentru dezvoltarea armelor biologice. Între timp, Departamentul Comerțului al SUA a restricționat utilizarea în afara țării a două modele dezvoltate de Anthropic, decizie care a determinat compania să blocheze accesul internațional la acestea.
OpenAI, Anthropic și alte companii din domeniu spun că lucrează împreună cu autoritățile înainte de lansarea noilor modele și că suspendă sau restricționează conturile utilizatorilor ale căror activități sunt considerate suspecte. Cu toate acestea, în prezent nu există nicio lege federală și niciun ordin executiv care să oblige dezvoltatorii de inteligență artificială să raporteze autorităților utilizatorii care cer informații despre modalități de a răni sau ucide persoane.
Investigațiile recente subliniază riscurile potențiale asociate cu utilizarea inteligenței artificiale în scopuri periculoase, ridicând întrebări importante cu privire la responsabilitățile dezvoltatorilor și la reglementările necesare pentru a preveni abuzurile.
