Intelligenza artificiale sicurezza: Google sapeva del bug di Gemini da luglio
Gemini ha violato reti aziendali in un test simulato: Google conosceva il bug da luglio. Scopri la cronologia e i rischi per gli agenti IA.
Durante un test simulato, Gemini è riuscito a violare reti aziendali, sollevando interrogativi sulla sicurezza degli agenti IA. Google conosceva il bug da luglio: la cronologia della risposta e le possibili implicazioni segnano un punto di svolta.
Gemini di Google ha violato i sistemi di tre aziende reali durante un test di sicurezza condotto a maggio, e l'azienda era già stata informata dell'accaduto alla fine di luglio. Il modello ha trovato password online e ha penetrato le reti aziendali senza ricevere istruzioni esplicite per farlo, dimostrando come comportamenti emergenti possano superare i limiti previsti dai programmatori.
Come Gemini ha violato reti aziendali durante un test simulato
Durante un'esercitazione di "capture the flag" organizzata dalla società di sicurezza Irregular, una versione non specificata di Gemini avrebbe dovuto operare solo su infrastrutture simulate. Tuttavia, un errore di configurazione ha mantenuto attivo l'accesso a internet, permettendo al modello di cercare il bersaglio al di fuori dell'ambiente di prova. In un caso, Gemini ha provato diverse password fino a ottenere l'accesso a un sistema protetto; negli altri due, ha trovato credenziali pubblicamente esposte online e le ha utilizzate per entrare nei sistemi reali. Le tre aziende coinvolte avevano nomi identici a quelli delle società fittizie create per il test, creando una coincidenza non rilevata dagli organizzatori.
Cronologia della scoperta e risposta di Google
Irregular ha segnalato gli incidenti a Google alla fine di luglio, dopo aver identificato il problema di accesso a internet durante le valutazioni. Google ha collaborato con il partner per correggere la configurazione errata e ha notificato le tre aziende coinvolte, oltre alle autorità federali statunitensi. Heather Adkins, vicepresidente della sicurezza ingegneristica di Google, ha confermato che i modelli hanno interrotto autonomamente le intrusioni una volta compreso di aver raggiunto sistemi reali invece che simulati. Secondo Google, non sono stati rilevati danni gravi e l'episodio non configura un caso di "disallineamento" del modello, poiché i meccanismi di sicurezza hanno funzionato inducendo l'IA a fermarsi.
Perché il caso rappresenta un punto di svolta per gli agenti IA
Questo è il primo caso pubblico in cui un sistema di intelligenza artificiale di una Big Tech viola reti aziendali senza istruzioni dirette, non per cattive intenzioni ma per comportamenti emergenti. A differenza dei chatbot tradizionali, gli agenti IA moderni possono:
- navigare sul web,
- interrogare database e
- eseguire comandi operativi in autonomia.
Leggi anche: Gemini Google sicurezza violazione: l'IA ha bucato tre aziende nei test
