L’intelligenza artificiale non è il nemico, lo è l’hype che attorno ad essa si è generato. O meglio, che è stato generato. Un entusiasmo che è tutto tranne che sincero, che alimenta diseguaglianze e che è rivolto unicamente verso un chiaro obiettivo: il profitto.
E l’intento del «L’inganno dell’intelligenza artificiale» (Fazi Editore) delle studiose statunitensi Emily M. Bender e Alex Hanna è proprio quello di scardinare questo concetto, alimentato da precise strategie comunicative capaci di invadere, anzi pervadere, la vita delle persone.
Partiamo dalla stessa definizione di intelligenza artificiale, «un’espressione di marketing» secondo la linguista e la sociologa, che nulla ha a che vedere con la tecnologia in sé. Descrivendo il funzionamento della stocastica che sta a base dei Large language model, perché il libro oltre a criticare l’AI ne fornisce anche una descrizione scientificamente e storicamente accurata, le due autrici fin dalle prime pagine provano a scardinare alcuni dei principali luoghi comuni sul tema: «Né i modelli linguistici di grandi dimensioni né altre tecnologie vendute come AI – scrivono – sono coscienti, senzienti o in grado di funzionare come entità indipendenti e pensanti».
L’hype
Ed è qui che si incardina il grande inganno. Con l’entusiasmo intorno all’intelligenza artificiale, quello che Bender e Hanna definiscono hype, «si stanno muovendo investimenti in startup, tecnologie e persone – si legge nel testo –. Gioca sulla paura di perdersi qualcosa (Fomo, Fear of missing out), con la funzione commerciale dell’hype sulla tecnologia che ha lo scopo di aumentare la vendita di prodotti». Detto brutalmente: Sam Altman di OpenAI «è un pubblicitario, come tutti i grandi magnati tecnologici del nostro tempo».
Tale approccio porta con sé tutta una serie di conseguenze e di ricadute descritte in maniera organica nel volume, dal lavoro – con conseguente aumento della pressione sulle persone e perdita di posti –, fino all’erosione di diritti (si pensi ai sistemi di riconoscimento facciale), uguaglianza – data l’accelerazione sulla concentrazione del potere in poche mani, quelle delle Big dell’It – e spazi di espressione. E tutti i settori ne sono toccati, siano produttivi, artistici o scientifici. «L’AI sta anche accelerando la catastrofe climatica» specificano Bender e Hanna, a conferma del disinteresse verso le conseguenze di questo marketing carnivoro che anima i suoi creatori e sostenitori.
Ma come ogni critica che si rispetti «L’inganno dell’intelligenza artificiale» ha anche un lato costruens, che giunge dopo una cavalcata destruens supportata da citazioni, dati e storia (notevole il passaggio sul luddismo, ieri e oggi).
Pars costruens
Oltre a una resistenza quotidiana, «se si rendono conto che nessuno usa la loro assurda AI - scrivono - sarà possibile far sparire quel pulsante scintillante (✨)», questa risposta si fonda su una normativa stringente che non si fida della capacità - o volontà - di autoregolarsi delle aziende. Oltre a ciò si fa riferimento a un esplicito bisogno di trasparenza, «con l’uso dell’automazione che deve essere pubblico», che deve inserirsi in una più ampia visione sociale dell’AI.
«Non siamo contro la tecnologia, nemmeno contro quella che implica l’uso di algoritmi di pattern matching – specificano le autrici –, ma vogliamo una tecnologia che sia progettata tenendo conto delle necessità e dei valori delle persone che la usano e di coloro su cui potrebbe essere usata». Il primo passo per chiedere ciò, anzi per rivendicarlo, è distruggere l’hype.
