10:03:17: una domanda, un clic. Per un istante, apparentemente, non succede nulla. 10:03:19: sullo schermo compare la prima parola. Poi un’altra e un’altra ancora, finché la risposta prende forma davanti ai nostri occhi. Sono passati pochi secondi. Ma che cosa è successo nel frattempo? La tentazione è immaginare una specie di cervello digitale dall’altra parte dello schermo: qualcosa che legge la domanda, ci «pensa» per un momento e poi formula una risposta. È un’immagine intuitiva. Ed è anche molto lontana da ciò che accade davvero.
Dietro quelle poche righe c’è un sistema molto diverso da un cervello umano: modelli matematici, enormi quantità di dati, processori specializzati, reti, data center e una complessa infrastruttura fatta funzionare da migliaia di persone. Per capire come funziona il processo, basta seguire una domanda nel suo viaggio. «Perché il cielo è blu?», la risposta comincia molto prima di comparire sullo schermo.
Prima di tutto: che cos’è ChatGPT?
Quando si parla di ChatGPT e di AI generativa, è facile immaginare una singola intelligenza artificiale dall’altra parte dello schermo. In realtà, ChatGPT è un servizio costruito attorno a diversi sistemi che lavorano insieme. Al centro ci sono i modelli di intelligenza artificiale che elaborano le richieste e generano le risposte. Un modello linguistico, però, non è un enorme archivio di domande e risposte dal quale scegliere quella più adatta. Non funziona come un’enciclopedia digitale e nemmeno come un motore di ricerca.
Durante l’addestramento, il modello viene esposto a grandi quantità di informazioni e modifica progressivamente i propri parametri per imparare le regolarità e le relazioni presenti nei dati. I parametri sono, in sostanza, grandi insiemi di numeri che il modello utilizza per elaborare le informazioni e generare nuovi contenuti.
Un esempio semplice può aiutare. Se leggiamo: «Il sole tramonta a…» possiamo aspettarci che la frase continui con parole come «ovest» o «occidente». Un modello linguistico fa qualcosa di enormemente più complesso: analizza il contesto che ha davanti e calcola quali token hanno maggiore probabilità di seguire quelli precedenti. È da questo meccanismo che nasce la generazione del testo. Il modello non cerca una risposta già pronta in un archivio: costruisce la risposta progressivamente, utilizzando ciò che ha appreso durante l’addestramento.
Come nasce una risposta?
Per essere elaborato dal modello, il testo deve però prima essere trasformato in una forma che il computer possa manipolare attraverso calcoli matematici. La frase «Perché il cielo è blu?» viene quindi suddivisa in piccole unità chiamate token. Non esiste una corrispondenza perfetta tra token e parole: un token può coincidere con una parola intera, con una parte di parola o anche elementi come la punteggiatura e gli spazi. Il modo in cui una frase viene suddivisa dipende dal sistema di tokenizzazione utilizzato.
I token vengono poi rappresentati numericamente. È a questo punto che il linguaggio, così come lo vediamo sullo schermo, diventa una sequenza di numeri che il modello può elaborare. Ma quei numeri non vengono analizzati uno per volta e isolatamente. Il modello considera il contesto e le relazioni tra le diverse parti della sequenza. Un elemento può quindi assumere un significato diverso a seconda di ciò che lo circonda. È qui, in termini molto semplificati, che entra in gioco il meccanismo di attention alla base dei moderni modelli Transformer: il modello assegna maggiore o minore importanza alle diverse parti dell’input mentre elabora ciascun elemento della sequenza.
A questo punto comincia la generazione. Il modello calcola una distribuzione di probabilità sui possibili token successivi e ne seleziona uno secondo le regole di generazione impostate. Quel token viene aggiunto al contesto e il processo si ripete. Uno dopo l’altro, i token diventano parole, frasi e paragrafi. Quello che sullo schermo sembra quindi un unico gesto, una risposta che compare quasi istantaneamente, è in realtà il risultato di una lunga sequenza di operazioni matematiche eseguite in rapidissima successione. E per compiere tutti questi calcoli serve qualcosa di molto concreto: potenza di calcolo.
Il cloud ha un indirizzo
Tutti questi calcoli non vengono eseguiti nel nostro smartphone o computer ma da qualche altra parte: la richiesta viaggia attraverso la rete verso l’infrastruttura che ospita il servizio, il cosiddetto cloud. Dietro questa parola apparentemente astratta ci sono i data center: grandi strutture fisiche, non luoghi senza materia, nelle quali sono installati migliaia di server, collegati tra loro da reti ad altissima velocità. È qui che vengono eseguiti i calcoli necessari per elaborare una richiesta e generare una risposta. All’interno dei server ci sono processori specializzati, tra cui le Gpu, capaci di eseguire contemporaneamente un numero enorme di operazioni matematiche.
Ma un data center non è soltanto una stanza piena di computer. Le apparecchiature hanno bisogno di energia per funzionare e producono calore mentre lavorano. Servono quindi sistemi elettrici per alimentarle, reti per collegarle, sistemi di raffreddamento per mantenere temperature adeguate e infrastrutture ridondanti per continuare a funzionare anche quando qualcosa si guasta. E dietro le macchine ci sono le persone: ricercatori e ingegneri sviluppano e addestrano i modelli, specialisti progettano software e infrastrutture, aziende producono i processori e gli altri componenti necessari. Tecnici e operatori, infine, gestiscono i data center e ne garantiscono il funzionamento.
Quanto costa una domanda?
Quanto costa, davvero, fare una domanda a ChatGPT? La risposta non è un numero semplice. Il prezzo che paga l’utente (quando paga un abbonamento o un servizio) non corrisponde direttamente al costo di elaborazione di ogni singola richiesta. E anche quel costo varia in base a diversi fattori. Uno dei principali è la quantità di testo elaborata. I token non servono soltanto a rappresentare la domanda: vengono utilizzati anche durante la generazione della risposta. Più contenuto deve essere elaborato e prodotto, maggiore può essere la quantità di calcolo necessaria.
Conta anche il modello utilizzato e il tipo di elaborazione richiesta. Modelli diversi possono avere esigenze computazionali diverse e alcune richieste richiedono più lavoro di altre. Per questo non esiste un prezzo universale per una domanda a ChatGPT.
Il punto non è allora quanto costa una singola risposta ma cosa succede quando una quantità apparentemente piccola di risorse viene moltiplicata per milioni o miliardi di richieste. A quel punto il problema non è più soltanto economico: ogni calcolo richiede elettricità, i processori producono calore e devono essere raffreddati, i server devono essere alimentati, collegati e mantenuti in funzione. Per capire quanto pesa davvero una conversazione con l’intelligenza artificiale, quindi, bisogna guardare oltre e parlare di energia.
L’impatto ambientale
Quanta energia serve per rispondere a una domanda con ChatGPT? Anche qui non esiste un numero valido per ogni richiesta e il consumo dipende ancora dai fattori già citati. Una stima indipendente citata da OpenAI indica in circa 0,3 wattora il consumo di una richiesta tipica a ChatGPT con GPT-4o. È un valore utile per avere un ordine di grandezza, ma non va interpretato come il «costo energetico» di ogni domanda.
Lo stesso vale per l’impatto ambientale. L’elettricità non è l’unica risorsa coinvolta: i data center hanno bisogno di sistemi di raffreddamento, infrastrutture elettriche e reti. E le emissioni associate al consumo dipendono anche da come viene prodotta l’elettricità utilizzata. La singola domanda, quindi, può sembrare poca cosa. Il problema è la scala: nel 2024 i data center di tutto il mondo hanno consumato circa 415 terawattora di elettricità, pari all’1,5% dei consumi elettrici globali. Secondo le più recenti proiezioni dell’International Energy Agency, il consumo globale dei data center potrebbe arrivare a circa 950 TWh nel 2030. L’AI è indicata inoltre dall’IEA come il principale motore di questa crescita.
ChatGPT pensa?
Dopo aver seguito il viaggio di una domanda, resta una questione difficile: che cosa sta succedendo davvero quando ChatGPT risponde? Il modello non funziona come il cervello umano e non c’è motivo di attribuirgli, solo sulla base della sua capacità conversazionale, una coscienza simile alla nostra. Ma definirlo un semplice «completamento automatico» sarebbe altrettanto riduttivo. I modelli moderni riescono a riconoscere relazioni complesse, mantenere il contesto, seguire istruzioni e risolvere alcuni tipi di problemi. Capacità che, viste dall’esterno, possono assomigliare a forme di ragionamento.
Il punto è che comportarsi come se si comprendesse qualcosa e comprendere quella cosa non sono necessariamente la stessa cosa. C’è un modo molto concreto per accorgersene: ChatGPT può produrre una risposta fluida, dettagliata e plausibile e, allo stesso tempo, sbagliare. Può inventare un fatto, attribuire una citazione o costruire una spiegazione convincente partendo da una premessa falsa. Sono le cosiddette allucinazioni dei modelli. La fluidità, quindi, non è una garanzia di verità. E una risposta che sembra intelligente non dimostra necessariamente che dietro quelle parole ci sia un’intelligenza simile alla nostra. Che cosa significhi esattamente «pensare», «capire» o «ragionare» quando si parla di una macchina è ancora una questione aperta. Ma una cosa è evidente: l’intelligenza artificiale non deve essere uguale a quella umana per essere sorprendentemente capace.
