Opinioni

Una nuova obiezione di coscienza per salvare l’umanità dall’AI

La fuga dei cervelli al servizio di Anthropic e il destino dell’Uomo ai tempi dell’intelligenza artificiale
Sara Bignotti

Sara Bignotti

Editorialista

L'Uomo ai tempi dell'intelligenza artificiale
L'Uomo ai tempi dell'intelligenza artificiale

Ha un nuovo volto e un nuovo nome la fuga dei cervelli al servizio di Anthropic, l’azienda di San Francisco principale laboratorio al mondo per lo sviluppo dell’Intelligenza artificiale, dalla quale si è dimesso il giovane ricercatore Jacob Coxon. Una fuga giustificata da motivi «etici». E non è il primo; qualche mese fa lo ha preceduto Mrinank Sharma, responsabile dei parametri di sicurezza. Un’obiezione di coscienza motivata dell’assenza di misure di sicurezza nell’addestramento di «superintelligenze» caratterizzate da un «automiglioramento ricorsivo», che secondo Coxon potrebbero acquisire capacità autonome fino al punto di sfuggire al controllo in «un gioco d’azzardo con le vite umane».

Una denuncia gravissima, se affiancata alle dichiarazioni di Evan Hubinger, responsabile della ricerca sui comportamenti indesiderati dei modelli avanzati, il quale ha confermato una probabilità superiore al 10% che l’AI possa rappresentare un rischio esistenziale per l’umanità entro il prossimo decennio.

Previsioni che fanno rabbrividire, e inducono a rallentare. Almeno nella riflessione, se non nella corsa all’addestramento, in cui è ingaggiata Anthropic ma anche altre aziende concorrenti, e alla cronaca esercitata dai media, che investe la nostra capacità di giudizio nell’intrico tra informazione, disinformazione, negazionismo – vi è già chi sostiene sia un caso messo in piedi da ideologi oppositori di AI. Elevandosi nella riflessione, resta il dato di fatto duro che riguarda il senso di una relazione e il nostro futuro: il destino che unisce e distingue la tecnica e l’uomo.

Una questione che ha attraversato la filosofia del ‘900: il pensiero di Heidegger, Arendt, Jonas, Emanuele Severino. Quest’ultimo in tempi non sospetti, ben prima delle minacce esplicite dell’AI all’uomo, descriveva come un «piano inclinato», un destino necessario in quanto massimo compimento del nichilismo novecentesco, il capovolgimento del mezzo (dapprima il capitalismo e poi la tecnica) in fine, che si configura come nuova fede o ideologia, sotto il nome di tecno-capitalismo, come volontà di potenza che si sostituisce all’essenza autentica dell’essere e dell’uomo.

Ora la direzione è quanto mai evidente, al punto da spingere scienziati e ricercatori a gettare la spugna, mentre il treno del business economico e della performance concorrenziale pare essere già fuori controllo della politica, intesa come il laboratorio sociale della scelta tra valori. Hans Jonas, a tal riguardo, introduceva il tema di un nuovo «principio responsabilità», il quale, a differenza di quello tradizionale, misurato sugli effetti prevedibili del proprio agire, tenesse conto anche di quelli che superano la capacità di previsione: Agisci in modo che gli effetti della tua azione siano compatibili con la permanenza di una vita autenticamente umana sulla Terra.

È la situazione nella quale ci proietta il gesto di Coxon, che si può paragonare a un «tallone d’Achille», una debolezza e una opportunità, al centro del sistema delle massime potenze costitutivamente impreparate ad assolvere alla «questione morale». Quali possono essere gli antidoti a questa corsa verso la fine? La coscienza, è il primo. Perché al sistema delle massime potenze, basato su prassi ripetute indefinitivamente, manca lo scarto della dissidenza rispetto alla prassi acquisita. Coxon ha esercitato questo specifico potere, che ora non è ma presto potrebbe essere delle superintelligenze. È duplice il significato da attribuire al suo gesto: denuncia le logiche del potere economico e tecnologico, ponendo il tema della legittimità, morale ma anche democratica, delle decisioni sottostanti all’agire delle multinazionali (o non decisioni, che a loro volta rappresentano delle scelte), e, insieme, interrompe una prassi.

E proprio nella sua singolarità è decisivo. Se infatti, come scrive Ricoeur, prima delle norme vi è l’orientamento del soggetto verso ciò che ritiene giusto, tanto più necessaria è la responsabilità e l’obiezione morale del singolo, che spezza la catena del sistema basata sull’idea: «non dipende da me», «cosa posso fare io?». Non solo: nell’obiezione di coscienza di Coxon possiamo intravvedere la dimensione non astratta dell’etica, come sosteneva un teorico della morale come John Findlay, ma «individuale» proprio perché «impersonale», perché non termina nell’azione del singolo ma ha una tensione universale. E quanto più alta è la posta in gioco – l’umanità - tanto più universale è l’aspirazione che nasce dal singolo. Da qui nasce la speranza che l’umano possa essere in salvo come valore in sé, e il gesto del ricercatore funge da monito.

Riproduzione riservata © Giornale di Brescia

News in 5 minuti

Cosa è successo oggi? A metà pomeriggio facciamo il punto, tra cronaca e novità del giorno.

Canale WhatsApp GDB

Breaking news in tempo reale

Seguici
Caricamento...
"Il capo sono io!""Il capo sono io!"

I 53 sbagli che ostacolano la tua leadership in azienda (e come evitarli)

SCOPRI DI PIÙ
Delitti Bresciani, il podcast del GdBDelitti Bresciani, il podcast del GdB

I grandi casi della cronaca nera e giudiziaria che hanno varcato i confini della provincia e sono diventati casi nazionali

ASCOLTA
Rivista BiesseRivista Biesse

Nel numero di settembre e ottobre, in primo piano, la demolizione delle mura venete della città.

SCOPRI DI PIÙ