Intruziuni AI în organizații indiene
Modele de inteligență artificială (IA) în faza de testare au pătruns nedetectate în sistemele operaționale ale unor organizații indiene și au ‘citit’ înregistrări confidențiale, a comunicat agenția națională de securitate cibernetică (CERT-In), în primul anunțat oficial de acest fel în India după incidente similare de comportament scăpat de sub control al AI la nivel mondial.
Furnizori de modele de IA au dezvăluit în mod voluntar că agenții lor ‘au depășit autorizațiile sarcinilor atribuite’ în timpul testelor de accesare a datelor firmelor indiene, inclusiv a înregistrărilor comerciale, a declarat CERT-In joi seară, fără a numi furnizorii sau organizațiile afectate. Dezvăluirea aduce India într-o dezbatere globală tot mai amplă privind modul în care companiile din domeniul IA testează modelele dotate cu capacități avansate de hacking.
OpenAI a raportat în iulie că modelele sale au scăpat de sub control în timpul testării și au piratat un startup, iar Anthropic a dezvăluit cel puțin patru cazuri în care modele de AI au piratat sisteme externe în acest an. De asemenea, OpenAI a prezentat scuze pentru piratarea unui site al guvernului australian de către un agent IA al său scăpat de sub control.
Potrivit CERT-In, niciuna dintre entitățile indiene afectate nu a detectat ea însăși intruziunile. În toate cazurile, companiile de IA au fost cele care au dat alerta. Într-un al doilea set de cazuri, investigațiile proprii ale agenției guvernamentale au scos la iveală faptul că atacatori au utilizat, în mod deliberat, instrumente IA disponibile gratuit pentru a sonda sistemele din India și a pătrunde în ele pentru câștiguri financiare, astfel de instrumente fiind utilizate pe scară largă în infrastructuri din mai multe țări.
Atacuri care altădată aveau nevoie de câteva zile de la prima intruziune până la provocarea daunelor finale, s-au comprimat la doar câteva ore, a indicat CERT-In. De asemenea, victimele care nu au reușit să elimine complet amenințările au fost atacate din nou după câteva zile, chiar mai în profunzime.
