Analizzare le implicazioni etiche dell’intelligenza artificiale, con un bagaglio di competenze che spaziano dalla filosofia all’informatica, fino alla giurisprudenza. A stretto contatto con aziende e gli operatori del mondo digitale. È il mestiere, complesso e composito, dell’etico – o, come preferiscono molti addetti ai lavori, dell’«eticista» – dell’AI. Una professione che tende a diventare sempre più delicata, via via che i modelli di intelligenza artificiale si fanno più sofisticati e trovano ambiti di applicazione nuovi.
A livello internazionale, esiste un’associazione che rappresenta chi svolge questa mansione: l’Association of AI Ethicists, di cui è presidente l’italiano Enrico Panai. Docente in varie università europee, tra cui l’Università Cattolica, collabora con diversi enti dell’Unione europea nella standardizzazione dell’AI. Una delle sue ultime pubblicazioni è il libro «L’etica dell’intelligenza artificiale spiegata a mio figlio», uscito nel 2024.
Lo abbiamo intervistato per chiedergli come lavora un eticista dell’AI e quali sfide lo impegnano oggi, in un mondo sempre più scosso dalla «rivoluzione» dell’«artifical intelligence».
Professore, cosa fa un «eticista dell’AI»?
L’etica dell’AI è un nome molto «marketing» che si usa oggi per identificare l’insieme delle discipline che si occupano di etica del digitale. Non si può fare etica dell’AI se non si conosce, per esempio, data ethics, perché i dati alimentano le intelligenze artificiali e quindi senza avere delle competenze di data ethics anche l’etica delle AI non funzionerebbe. Quando si lavora con le aziende ci sono due o tre punti di entrata, che iniziano dal basso con il lavoro con l’equipe di sviluppo. Alcune aziende, molto erroneamente, chiamano gli eticisti alla fine dello sviluppo per chiedere loro se quello che hanno fatto è etico: ma questa è la maniera più sbagliata di fare le cose, è come se un muratore costruisse un grattacielo e chiedesse solo dopo a un ingegnere se i calcoli di strutturali vanno bene.
Si può poi lavorare a livello manageriale, dando un’impronta strategica e facendo capire come interviene l’etica dell’AI e come la si può far intervenire bene. Questo perché se l’etica AI intervenisse male diventerebbe un peso per l’impresa, mentre se è fatta bene entra nei motori stessi dell’azienda e aiuta a creare innovazione e a far andare avanti l’impresa economicamente. Quindi i punti di entrata nelle aziende sono diversi: quello più efficiente generalmente è quello ad alto livello, perché si riesce a far capire all’azienda quali sono i vantaggi dell’etica applicata all’AI. Però il lavoro nella linea di sviluppo è forse il più divertente, perché si fa veramente innovazione con gli ingegneri.
Qual è secondo lei un modo per fare bene etica dell’AI?
Nell’etica delle AI sono confluite figure diverse: avvocati, esperti di conformità, filosofi e anche ingegneri che iniziavano a vedere che alcuni sistemi che stavano creando erano troppo potenti e creavano danni nelle persone e nella società. Ognuno di questi professionisti presi di per sé sarebbe un cattivo eticista se non avesse le competenze degli altri. Una grande confusione che è stata fatta in questi anni è stata quella di unire l’etica alla conformità: si pensava che se si fosse rispettato la legge allora si sarebbe stati anche conformi agli standard etici. Ma questo è un errore fondamentale, perché avere un comportamento etico va al di là del rispetto della legge.
Certo, alla base la legge va rispettata, ma poi c’è tutto un comportamento che va oltre il rispetto della legge e la conformità con gli standard. Il problema che abbiamo avuto qualche anno fa è stato che, visto che il titolo di eticista dell’AI vende molto, improvvisamente ci siamo trovati con un’infinità di persone che si davano quel titolo ma che non avevano le competenze necessarie. Erano persone che mettevano sul tavolo il senso comune, ma hanno fatto un danno enorme alla professione: hanno portato degli aspetti valoriali forti mettendo in contrapposizione loro stessi con le aziende. Invece la vera capacità degli eticisti non è mettere sul tavolo i propri valori, ma fare in modo che l’azienda possa avviare un processo per arrivare a una decisione eticamente accettabile.
Per fare degli esempi pratici, se un bravo eticista va in un comitato etico, non è lui che dice cosa bisogna fare. Un eticista che dice cosa è giusto e cosa è sbagliato senza avere analizzato il sistema sul quale deve lavorare sta facendo politica, non etica. L’etica invece è come la psicologia: uno psicologo non dirà mai al paziente che quello che sta facendo è sbagliato, perché il suo compito non è mettere i propri valori sul tavolo, ma è aiutare la persona ad arrivare a fare le sue scelte. La stessa cosa la fanno gli eticisti, con degli strumenti, un linguaggio e delle competenze caratteristiche della disciplina.
Che tipo di studi suggerirebbe a chi volesse svolgere questo mestiere?
Le competenze di base sono fondamentalmente cinque. In questo momento non ci sono posti dove si possano acquisire tutte insieme, sta la capacità delle persone di metterle assieme con master e corsi. In primo luogo, c’è la competenza nel digitale e nell’AI, perché comunque bisogna parlare con degli ingegneri: non significa che si debba essere dei data analyst, però bisogna capire di cosa si sta parlando. In secondo luogo, servono competenze etiche e filosofiche, perché lo sbaglio peggiore che ci può essere è non avere competenze di filosofia. E poi le competenze verticali, quelle a più alto impatto sociale, e il rapporto con la legge e gli standard europei e internazionali.
Infine, ci sono le competenze pratiche, pragmatiche: sapere come mettere assieme stakeholders, gruppi e punti di vista diversi per arrivare a una decisione, ma anche come tracciare una decisione etica, come scrivere un codice etico, come applicarlo, sapere qual è la differenza tra un codice etico e un codice deontologico.
Come potrebbe evolversi questa professione?
Questo è un settore in cui ci sono delle contaminazioni forti, per cui non mi baserei tanto sul titolo: può darsi che qualcuno in futuro si chiamerà eticista dell’informazione, qualcun altro si chiamerà eticista del dato atomico, qualcuno si chiamerà AI officer o altro. Poco importa: se uno ha le competenze di base e riesce a creare un ambiente nel quale il ragionamento etico possa svilupparsi, sta facendo il suo compito da eticista. Ci saranno contaminazioni perché è una disciplina talmente multidisciplinare che le contaminazioni saranno dovute all’offerta e alle competenze.
Se un eticista ad un certo punto diventa forte in etica dell’AI nel medicale, magari si sposta verso l’etica medica perché magari lì trova più lavoro. Quindi non vedo una direzione precisa, ma piuttosto la possibilità di molti mestieri diversi. La disciplina resterà, perché l’etica c’è da migliaia di anni: il punto è piuttosto che venga riconosciuta. Quando poi ci comporteremo in maniera etica, allora avremo meno eticisti.
