Colaborarea OpenAI cu Pentagonul
OpenAI a anunțat că a încheiat un acord cu Pentagonul pentru a furniza inteligență artificială rețelelor militare clasificate din SUA, la câteva ore după ce Donald Trump a ordonat guvernului să înceteze utilizarea serviciilor uneia dintre principalele companii concurente, Anthropic.
Contextul deciziei
Sam Altman, CEO-ul OpenAI, a făcut anunțul vineri seara. Acordul a venit după ce negocierile dintre Anthropic, o companie rivală care operează sistemul Claude, și administrația Trump s-au rupt, deoarece Anthropic a solicitat asigurări că tehnologia sa nu va fi utilizată pentru supravegherea în masă sau pentru sisteme de arme autonome capabile să ucidă fără intervenție umană.
Principiile de siguranță ale OpenAI
În cadrul anunțului, Altman a subliniat că acordul OpenAI cu guvernul include asigurări că tehnologia nu va fi utilizată în scopuri neetice. „Două dintre cele mai importante principii de siguranță sunt interdicțiile privind supravegherea în masă pe teritoriul național și responsabilitatea umană în utilizarea forței, inclusiv pentru sisteme de arme autonome”, a scris Altman pe platforma X. El a adăugat că Pentagonul „este de acord cu aceste principii, le reflectă în legi și politici și le-am inclus în acordul nostru”.
Așteptările și reacțiile industriei
Altman a exprimat speranța că Pentagonul va oferi aceleași condiții tuturor companiilor de inteligență artificială ca o modalitate de a „dezescalada conflictele legale și guvernamentale și de a ajunge la acorduri rezonabile”. Dacă acordul OpenAI interzice utilizarea sistemelor sale pentru scopuri neetice, se pare că compania a obținut asigurări acolo unde Anthropic nu a reușit. Anunțul a venit imediat după ce Trump a declarat că va direcționa toate agențiile federale să „ÎNCETEZE IMEDIAT” utilizarea tehnologiei Anthropic.
Reacția angajaților și a concurenților
Pentagonul a cerut Anthropic să relaxeze orientările etice privind sistemele sale de inteligență artificială sau să se confrunte cu consecințe severe. Trump a afirmat pe platforma sa Truth Social că „Cei de stânga de la Anthropic au făcut o GREȘEALĂ DISASTROASĂ încercând să forțeze Pentagonul să respecte termenii lor de serviciu în locul Constituției noastre”.
Rămâne de văzut cum va reacționa personalul OpenAI la acordul cu guvernul. În timpul conflictului cu administrația Trump, Anthropic a primit sprijin din partea rivalilor săi cei mai fervenți. Aproape 500 de angajați OpenAI și Google au semnat o scrisoare deschisă spunând „nu ne vom lăsa divizați”.
Altman a încercat să-i liniștească pe angajații OpenAI într-un memo trimis vineri seara. „Indiferent de cum am ajuns aici, aceasta nu mai este doar o problemă între Anthropic și Pentagon; este o problemă pentru întreaga industrie și este important să ne clarificăm poziția”, a scris Altman în memo.
Concluzie
Colaborarea OpenAI cu Pentagonul subliniază o schimbare semnificativă în peisajul tehnologic și militar, având implicații profunde asupra utilizării etice a inteligenței artificiale în sectorul public.
Nu cred că e o idee bună să implici inteligența artificială în operațiunile militare. Oare nu ne îndreptăm spre un viitor destul de periculos?
E fascinant cum tehnologia avansează atât de repede, dar mă tem că OpenAI ar putea să-și piardă din etică în această colaborare cu Pentagonul. Ce se va întâmpla cu valorile pe care le susțin?
Îmi pun întrebarea: cine are de câștigat cu adevărat din această colaborare? Sigur, US Army are nevoie de inovație, dar prețul plătit în etică și transparență este foarte mare.
E oarecum ciudat să vezi o companie ca OpenAI asociindu-se cu structuri militare. Nu era scopul inițial al AI-ului acela de a ajuta oamenii, nu de a-i distruge?
Mă întreb ce impact va avea această decizie asupra imaginii OpenAI în rândul utilizatorilor lor obișnuiți. Vor renunța oamenii la serviciile lor după asta sau pur și simplu vor ignora aceste colaborări controversate?