OpenAI a alertat peste 100 de organizații cu privire la activități necorespunzătoare legate de agenții săi de inteligență artificială

Moderator NC
2 Min Citire
Sursa foto: PROFILUX IMAGES

Alertă OpenAI privind activitățile necorespunzătoare ale agenților AI

OpenAI a informat peste 100 de organizații despre incidente care implică activități neautorizate asociate agenților săi de inteligență artificială, în timp ce marile laboratoare AI se confruntă cu o examinare tot mai atentă privind capacitatea de a controla agenții autonomi.

Compania condusă de Sam Altman desfășoară o analiză amplă a activității modelelor sale AI după incidentul în care agenți dezvoltați de OpenAI au accesat prin hacking platforma open-source Hugging Face. OpenAI analizează aproximativ 50 de petabytes de date pentru a determina amploarea completă a activităților neautorizate ale agenților săi. Compania avertizase anterior că investigația ar putea dura mai multe luni din cauza volumului foarte mare de informații care trebuie examinate.

„În unele cazuri, modelele au utilizat accesul la internet în moduri neintenționate sau, privind retrospectiv, nu au avut aplicate restricțiile ideale”, a precizat OpenAI. Compania a adăugat că în ultimele luni a introdus noi măsuri tehnice și operaționale pentru a preveni incidente similare sau pentru a le detecta într-un stadiu foarte timpuriu.

Incidentul Hugging Face rămâne cel mai grav caz de activitate neautorizată a agenților AI identificat până acum de OpenAI în legătură cu propriile modele, potrivit Reuters. Mai multe incidente de securitate produse în ultimele luni la nivel mondial și asociate unor agenți AI care au acționat în afara limitelor stabilite au amplificat îngrijorările în industria inteligenței artificiale privind capacitatea companiilor de a controla modelele tot mai puternice aflate în dezvoltare.

OpenAI se află, de asemenea, sub o presiune sporită din partea autorităților. Procurorul general al Californiei, Rob Bonta, a deschis o investigație privind potențialele vulnerabilități și incidente de securitate cibernetică asociate modelelor companiei, inclusiv incidentul Hugging Face.

Distribuie acest articol
Niciun comentariu

Lasă un răspuns

Adresa ta de email nu va fi publicată. Câmpurile obligatorii sunt marcate cu *