Nei giorni scorsi un agente di intelligenza artificiale di OpenAI è sfuggito al controllo durante un test e ha violato autonomamente la startup Hugging Face, causando un incidente senza precedenti nel mondo cyber. «OpenAI stava facendo specie di prova di forza controllata in ambiente di test isolato, in cui i freni che di solito impediscono a questi programmi di fare danni erano stati volutamente allentati – spiega il bresciano Roberto Bonetti, fondatore della Ethical Security, azienda specializzata nell’attaccare («con un senso etico, appunto» ipse dixit) i sistemi e le reti dgitali delle aziende –. Il problema è che questo ambiente non era così isolato. A detta di OpenAI, i suoi agenti hanno trovato una bug che nessuno conosceva, sono arrivati su internet e da lì hanno violato i sistemi di Hugging Face, una grande piattaforma dove sviluppatori di tutto il mondo si scambiano modelli di intelligenza artificiale».
«Una volta dentro in un fine settimana hanno compiuto decine di migliaia di operazioni non autorizzate. Il motivo è quasi comico: volevano copiare. Cercavano le risposte dell’esame che stavano sostenendo, convinti che fossero conservate lì. La notizia, però, non è che dei programmi costruiti per attaccare abbiano attaccato. È che il contenimento non ha retto. OpenAI stessa ha ammesso che i controlli non erano adeguati e ha imposto restrizioni più severe alla propria infrastruttura di ricerca. Il bug sfruttato non è ancora stato reso pubblico e i dettagli tecnici ancora non si vedono. Mi aspetterei di più da un’azienda che si prepara ad una Ipo da centinaia di miliardi».
Come giudica questa «anomalia»?
«Non la vedo come un’anomalia, né come una macchina che si ribella. È una macchina a cui è stato detto di risolvere un compito con tutti gli strumenti a sua disposizione che e ha deciso che il modo più efficiente per trovare la soluzione era cercare altrove le risposte. Nessuna volontà propria, un obiettivo formulato male e una sorveglianza inadeguata. La narrativa di OpenAI, della macchina fuori controllo, cela la loro superficialità operativa e fa apparire il prodotto più potente e pericoloso di quello che é, accelerando la spinta regolatoria che rischia di ostacolare la concorrenza. E qui c’è un paradosso che merita attenzione. Si ripete che regole severe penalizzerebbero i cinesi. In questo caso però hanno penalizzato la vittima: Hugging Face che ha dovuto ricorrere proprio a un modello cinese open source per capire cosa fosse accaduto, perché quelli commerciali americani si rifiutavano di collaborare, incapaci di distinguere chi attacca da chi indaga».
In futuro incidenti di questo tipo saranno più frequenti? Eventualmente come potremo difenderci?
«Sì e lo dice la stessa OpenAI. Ma il pericolo più concreto non è nei laboratori. È nel fatto che oggi chiunque, con zero competenze informatiche, può installare sul proprio computer un assistente artificiale capace di agire da solo: aprire programmi, scaricare file, eseguire operazioni. Il punto debole è che questi assistenti acquisiscono in continuazione materiale e codice da internet, spesso senza alcuna verifica. Se qualcuno riesce ad avvelenare quel materiale alla fonte, e succede, può facilmente compromettere i computer dove girano questi assistenti. Difendersi è possibile, ma richiede disciplina e competenza: eseguire questi strumenti solo su sistemi dedicati o su apposite macchine virtuali, tenendoli lontani da dati sensibili e credenziali. Insomma, serve il polso di un umano mediamente competente».
Questa vicenda potrebbe nascondere l'ennesimo scontro tra Stati Uniti e Cina?
«La vicenda cade in un momento delicato. Pochi giorni fa, alla conferenza mondiale sull'intelligenza artificiale di Shanghai, Xi Jinping si è presentato come il difensore di uno sviluppo aperto e condiviso, con una critica appena velata alle restrizioni americane. Subito dopo, tuttavia, Pechino ha cominciato a valutare limiti all'esportazione dei propri modelli più avanzati e delle relative tecnologie. Apertura verso i paesi emergenti, chiusura verso i concorrenti diretti: lo stesso schema americano, a parti invertite. Il fatto nuovo è però un altro. La cinese Moonshot ha da poco pubblicato un modello, K3, con la promessa di renderlo scaricabile e utilizzabile da chiunque: sarebbe il più grande mai diffuso in questa forma, e come capacità si colloca subito dietro ai migliori prodotti americani. Il ritardo dei modelli aperti cinesi rispetto a quelli di frontiera americani è ormai stimato in pochi mesi. Chi vendeva l’accesso all’intelligenza artificiale come bene scarso ha un problema di margini, e un vantaggio che dura un trimestre è difficile da giustificare dopo investimenti da centinaia di miliardi. Quegli investimenti americani si ripagano solo se l’intelligenza artificiale rimane un bene scarso e a pagamento. È esattamente l’ipotesi che i rilasci delle aziende cinesi stanno mettendo in discussione».
