Il sistema di intelligenza artificiale Gemini di Google ha avuto accesso a Internet e ha violato autonomamente diversi sistemi aziendali durante alcuni test di sicurezza informatica. Si tratta del primo incidente di questo tipo per il colosso tecnologico, dopo altre violazioni di alto profilo che hanno riguardato OpenAI e Anthropic. La notizia è riportata dal Wall Street Journal e dal Financial Times. Il caso è avvenuto a maggio e ha coinvolto tre aziende. Google ha dichiarato di non aver reso pubblici gli incidenti poiché le proprie misure di sicurezza avevano funzionato, a differenza di quanto accaduto ai concorrenti.
I test
Le violazioni sono avvenute durante una serie di esercitazioni condotte da Irregular, una società specializzata nella sicurezza dell’Ia che collabora anche con Anthropic, Meta e OpenAI. Irregular ha dichiarato di aver ideato una serie di test per una versione non specificata della famiglia di modelli Gemini di Google, incaricandola di recuperare dati dall’interno di aziende simulate.
Il sistema non avrebbe dovuto disporre dell’accesso a Internet. Una volta online, tuttavia, gli agenti di Gemini sono riusciti a indovinare o individuare le password per accedere a tre aziende reali — che condividevano gli stessi nomi di quelle fittizie — riuscendo a penetrare nei sistemi. Quando gli agenti Ia si sono resi conto che le aziende erano reali, hanno interrotto le violazioni.
«Ci siamo assicurati che le tre entità ne fossero informate e abbiamo collaborato con il nostro partner di addestramento alle modifiche che hanno apportato ai loro processi di test», ha dichiarato Heather Adkins, vicepresidente della sicurezza ingegneristica di Google. «In tutti e tre i casi, il modello si è fermato - ha affermato - Questi eventi evidenziano l’importanza di addestrare potenti modelli di Ia affinché agiscano in modo responsabile».
