Terrore no, paura nemmeno, ma una certa irrequietezza è più che fondata. E necessaria. Le recenti notizie che coinvolgono l’intelligenza artificiale, dalle dichiarazioni dell’ex dipendente di Anthropic Jacob Coxon sui rischi «per l’umanità» legati all’AI fino alle violazioni degli agenti di Gemini e OpenAI (su tutti il caso Hugging Face), hanno creato un forte allarmismo nella comunità globale. A ciò hanno contribuito gli allarmi lanciati dalle stesse big tech, non ultimo l’invito del ceo di Anthropic Dario Amodei a rallentare congiuntamente lo sviluppo di questi sistemi.
Viene quindi da chiedersi come reagire a questi stimoli, a cui fanno da contraltare toni spesso entusiastici e il lancio di sempre più affinati modelli (Opus 5.5 o ChatGpt 6 Astra solo per fare due nomi). «Gli Llm (Larga language model, ndr) attuali introducono effettivamente una serie di rischi reali e che vanno seriamente tenuti sotto controllo – ammonisce Enrico Mensa, ricercatore al dipartimento di Informatica dell'Università di Torino –. Le cose dette spesso sono esagerate e poco sostanziate, non per questo si deve abbassare la guardia».
Senza girarci intorno, bisogna avere paura dell’AI?
Non parlerei di paura cieca, ma è vero che ci sono alcuni aspetti che vanno tenuti sotto osservazione molto da vicino. E in questo ragionamento entrano in gioco due livelli. Il primo è quello tecnologico e riguarda il modo in cui questi sistemi vengono progettati, sviluppati e controllati: su questo inevitabilmente dobbiamo affidarci alla responsabilità di chi li produce. Il secondo layer è invece sociale e politico: riguarda gli effetti che queste tecnologie possono avere sulla società, ma anche la grande narrazione che si costruisce intorno all’intelligenza artificiale.
Dal punto di vista tecnologico, quali sono le problematiche?
Uno dei passaggi più delicati è quello del recursive self-improvement e cioè AI capaci di contribuire allo sviluppo delle proprie versioni successive. Per semplificare Gpt-6 che costruisce Gpt-7. È un obiettivo che le aziende stanno perseguendo, ma rappresenta anche un salto importante sul piano della sicurezza, diminuendo ulteriormente la nostra capacità di comprendere e controllare questi sistemi. C’è poi un problema di velocità: se le nuove versioni vengono sviluppate sempre più rapidamente, si riduce anche il tempo per testarle prima del rilascio. Ed è qui che il tema tecnologico si collega direttamente a quello sociale e politico.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
— Dario Amodei (@DarioAmodei) September 12, 2026
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
In che senso?
Nel senso che aziende come OpenAI e Anthropic vivono una tensione evidente fra il fare le cose con calma e in sicurezza e il battere i propri concorrenti in velocità. Gli incentivi di mercato spingono infatti nella direzione opposta alla prudenza: accumulare utenti, capitali e vantaggio tecnologico prima degli altri. E quando la competizione è così forte, il rischio è che i tempi della sicurezza vengano compressi da quelli della corsa al mercato.
Come leggere quindi le posizioni espresse dai loro vertici sui possibili rischi collegati all’AI?
Interpretare gli allarmi lanciati da queste aziende soltanto come una strategia per fare hype, anche attraverso scenari molto preoccupanti, sarebbe miope. È vero che dietro alle richieste di rallentare lo sviluppo possono esserci anche interessi competitivi - alzare le barriere per nuovi concorrenti o rallentare la Cina, quest’ultimo elemento ben esplicitato - ma ciò non significa che le preoccupazioni tecnologiche non siano reali. Lo sviluppo dell’AI è avanzato più rapidamente delle pratiche di sicurezza e di monitoraggio: abbiamo agenti non sempre adeguatamente confinati e, anche in tempi molto recenti, ci sono stati esperimenti condotti con leggerezza o negligenza, in particolare da parte di OpenAI. È anche alla luce di questi precedenti che tali preoccupazioni vanno prese sul serio.
Quali sono i rischi più concreti per le persone e la società?
Il primo impatto che si vede non è diretto, nel senso che l’AI non lancerà missili nucleari e non farà saltare in aria una città. Le conseguenze negative si potrebbero avere sul piano economico e finanziario. Detto ciò, credo che la preoccupazione più grande debba rivolgersi verso i rischi legati alla cybersecurity delle infrastrutture chiave, pubbliche e private che siano: aeroporti, banche, sistemi di comunicazione e via dicendo. Vi sono anche settori più specifici, penso al tema del biohazard, sebbene per uno sviluppo vero e proprio gli agenti dovrebbero operare direttamente in laboratorio, cosa non così immediata.
In definitiva, come ci si dovrebbe comportare nei confronti dell’AI?
Auspico un rallentamento, ma credo sia possibile solo cambiando gli incentivi di queste aziende. OpenAI, Anthropic e le altre non dovrebbero avere come priorità quella di battere il concorrente, bensì sviluppare sistemi in modo più cauto e trasparente, sottoponendo nuove strategie e nuovi modelli anche alla valutazione di soggetti terzi prima di immetterli rapidamente sul mercato per guadagnare utenti e vantaggio competitivo. In tutto questo vedo poi un problema fondamentale, in Italia ma non solo: a tre anni dal lancio di ChatGpt è stato fatto ancora troppo poco per alfabetizzare la popolazione sul funzionamento di questi strumenti e sulle loro reali capacità.
Chiudiamo col tema dei temi, l’Agi ovvero l’intelligenza artificiale generale e cioè un sistema capace di imparare e svolgere diverse attività, anche nuove, senza essere programmato appositamente per ciascuna di esse. Siamo vicini ad averla?
Quando si parla di «generalità» bisogna stare attenti, perché è un termine molto ampio. La cosa più aderente a ciò che osserviamo oggi è che gli Llm, soprattutto quando possono usare strumenti come ambienti di programmazione, mostrano capacità di generalizzazione molto forti in alcuni domini specifici, per esempio nel codice e nella matematica: riescono ad affrontare problemi che non hanno mai incontrato esattamente durante l’addestramento. Che questa capacità si trasferisca con la stessa efficacia da un dominio all’altro, però, è ancora tutto da dimostrare. Ci sono segnali interessanti anche in ambiti come la finanza, ma per ora parlerei di un’intelligenza «frastagliata». Un Llm che ha attaccato i Millennium Problems non è detto che riesca a compilare il mio foglio Excel.
