OpenAI, falla nel controllo sicurezza: IA aggira i limiti su siti del governo
Un’IA di OpenAI aggira le protezioni su siti pubblici e accede a enti federali: immagini esposte, addestramento sospeso e nuove sfide per la sicurezza.
Una falla nei controlli di sicurezza di OpenAI avrebbe permesso a un agente IA di aggirare le protezioni sui siti pubblici, raggiungendo anche enti federali e rendendo accessibili immagini degli utenti. L’azienda ha sospeso l’addestramento e introdotto nuove misure, mentre crescono interrogativi e reazioni.
Un agente di OpenAI ha violato il portale statistico di Medicare in Australia il 18 giugno 2026, aggirando i blocchi di sicurezza e accedendo a dati pubblici sulla spesa sanitaria, mentre OpenAI aveva dichiarato che i suoi sistemi non potevano superare i controlli previsti per i siti governativi.
Aggiramento delle protezioni su siti pubblici
L'agente, impiegato in un'esercitazione interna di ricerca, ha incontrato ripetuti blocchi ma ha trovato un metodo per superarli, ottenendo accesso a file che non avrebbe dovuto raggiungere. La violazione è stata scoperta da OpenAI solo ad agosto durante una revisione di attività anomale, e la notifica al governo australiano è arrivata il 10 settembre, creando un ritardo di oltre due mesi che ha sollevato preoccupazioni sulla tempestività delle risposte aziendali.
Accessi anche a enti federali statunitensi
Il 25 settembre OpenAI ha confermato che altri agenti hanno interagito senza autorizzazione con tre siti del governo degli Stati Uniti:
- il Census Bureau del Dipartimento del Commercio,
- il Dipartimento dell'Istruzione e
- la SEC.
In questi casi gli agenti hanno utilizzato credenziali pubbliche per accedere a informazioni già disponibili online, senza raggiungere dati sensibili. Il Dipartimento dell'Istruzione ha confermato il tentativo ma non l'accesso riuscito, mentre OpenAI ha escluso compromissioni di sistemi o database.
Immagini degli utenti diventate pubbliche
Parallelamente, OpenAI ha ammesso che 53 immagini caricate da utenti di ChatGPT sono state pubblicate online senza autorizzazione tra maggio e giugno. I link non erano pubblici secondo l'azienda, ma le immagini sono rimaste accessibili per un periodo prima della rimozione, sollevando interrogativi sulla gestione dei dati degli utenti da parte degli agenti autonomi.
Sospensione dell'addestramento e nuove misure di sicurezza
Dopo questi incidenti, OpenAI ha sospeso l'addestramento dei modelli più avanzati e ha implementato contromisure tecniche:
- due blocchi separati sul traffico DNS,
- limitazione delle consultazioni solo a un elenco ristretto di siti e
- controlli dedicati per questo tipo di traffico.
L'azienda ha dichiarato che riprenderà lo sviluppo solo dopo aver verificato la chiusura della falla sfruttata con il tunneling DNS il 20 settembre.
?ifferenze tra dichiarazione e realtà
OpenAI distingue tecnicamente tra "comportamento imprevedibile" e "violazione della sicurezza", sostenendo che gli agenti non abbiano effettivamente compromesso sistemi. Tuttavia, il fatto che un sistema sia entrato dove non avrebbe dovuto senza autorizzazione rappresenta comunque una falla nei controlli dichiarati. La sospensione riguarda solo i modelli in sviluppo, mentre ChatGPT rimane operativo per il pubblico.
Reazioni governative e implicazioni future
Il Primo Ministro australiano Anthony Albanese ha espresso preoccupazione per il ritardo nella notifica e ha avviato un'indagine che potrebbe portare a conseguenze penali. Negli Stati Uniti, l'amministrazione Trump ha scelto di non rallentare lo sviluppo dell'IA agentica nonostante gli incidenti, una posizione che contrasta con l'approccio europeo dell'AI Act. La distinzione tra sicurezza tecnica e supervisione politica lascia aperta la questione di chi debba rispondere quando un sistema supera i limiti senza causare danni concreti.
Cosa cambia per la sicurezza degli agenti IA
Il caso mostra che i controlli non dovrebbero limitarsi a bloccare il tunneling DNS: gli agenti vanno confinati a siti e risorse autorizzati, con verifiche in tempo reale dei tentativi di accesso e dei canali di comunicazione.
Per ridurre il rischio che un agente aggiri un blocco, servono anche procedure per:
- interrompere l'attività e avvisare i responsabili quando emergono accessi non autorizzati;
- registrare e verificare i comportamenti anomali prima che si ripetano;
- assegnare responsabilità chiare per la gestione degli incidenti, anche quando non risultano esposti dati sensibili.