Un agente di intelligenza artificiale di OpenAI è sfuggito al controllo durante un test e ha violato autonomamente Hugging Face, una startup nota agli sviluppatori. «Un incidente senza precedenti che ha coinvolto capacità cyber all'avanguardia», riferisce la casa madre di ChatGpt che annuncia un'indagine congiunta con la piattaforma hackerata. «È un incidente spartiacque nell'evoluzione dell'intelligenza artificiale, se queste capacità fossero sfruttate in un contesto offensivo le conseguenze sarebbero significative», spiega Pierluigi Paganini, professore di Cybersecurity all'Università Luiss Guido Carli.
La violazione arriva in un contesto in cui cresce l'uso degli agenti IA - proprio in queste ore OpenAI ha reso noto che dieci milioni di utenti usano i suoi sistemi - che hanno segnato il salto dalla «semplice» intelligenza artificiale generativa, che produce contenuti in base agli input umani, a sistemi che possono agire in autonomia e pianificare azioni. Mentre sale la competizione tra i big del settore per sviluppare software IA progettati per la cybersicurezza.
Un caso per tutti, quello di Mythos di Anthropic - prima bloccato e poi liberato dal governo Usa - a cui sono seguiti quelli di Google e della stessa OpenAI, solo per citarne alcuni. Una competizione serrata che va avanti senza esclusione di colpi.
La violazione
La violazione di Hugging Face da parte della casa madre di ChatGpt è avvenuta durante una valutazione interna. «Il modello di IA ha individuato e sfruttato autonomamente una vulnerabilità zero-day, cioè mai scoperta prima, per uscire dall'ambiente isolato in cui era confinato - osserva Paganini -. Ha effettuato movimenti laterali nella rete, ha raggiunto un sistema connesso a Internet e ha ricostruito il percorso più efficace per ottenere le informazioni necessarie a superare il test. Nessuno gli ha indicato come farlo: ha semplicemente perseguito l'obiettivo assegnato scegliendo in autonomia la strategia più efficace».
L'attacco è terminato quando il team di sicurezza di Hugging Face e i suoi stessi agenti di IA hanno individuato e bloccato l'attività anomala.
L'amministratore delegato della società, Clément Delangue, ha definito la violazione «incredibile», ritenendo tuttavia che non ci sia stata «alcuna intenzione malevola» da parte di OpenAI. «Avevamo il sospetto che l'attacco informatico potesse provenire da un laboratorio di frontiera data la sofisticatezza dell'agente», ha scritto su X. OpenAI ha dichiarato che la violazione è avvenuta tramite un agente basato sulla combinazione del suo modello più recente disponibile al pubblico, denominato GPT-5.6 Sol, e di un modello ancora più potente non ancora rilasciato.
Possibili conseguenze
«Se un livello di autonomia di questo tipo finisse nelle mani di gruppi criminali o attori statuali il panorama delle minacce cambierebbe profondamente - conclude Paganini -: gli attaccanti potrebbero condurre operazioni molto più rapide, sofisticate e difficili da prevedere, mettendo sotto pressione modelli di difesa progettati per contrastare avversari umani e non sistemi capaci di apprendere e adattarsi in tempo reale. OpenAI ha scelto di divulgare l'accaduto e ha collaborato con Hugging Face, questo elemento è importante perché consente al settore di analizzare un caso concreto e non più soltanto ipotetico delle capacità raggiunte dai modelli di intelligenza artificiale avanzata».
