Per la prima volta, nella proposta di riforma del Codice della strada, l’automobile che guida da sola trova un riconoscimento esplicito. Lo schema approvato dal Governo il 13 ottobre introduce le definizioni di veicolo automatizzato e totalmente automatizzato, disciplinandone la circolazione. Ma dietro la conquista tecnologica si apre una questione complessa: chi stabilisce i princìpi in base ai quali una macchina deve prendere le proprie decisioni? E chi deve rispondere delle conseguenze? Non si tratta di interrogativi legati a un futuro lontano.
Alla Mille Miglia
La guida autonoma è già una realtà sperimentale e Brescia ne è stata una delle vetrine. Alla Mille Miglia una Maserati dotata di un sistema sviluppato dal Politecnico di Milano ha percorso alcuni tratti della corsa con Matteo Marzotto a bordo come supervisore.
Un’immagine quasi paradossale: sulle strade della gara che ha celebrato l’abilità dei grandi piloti, l’uomo comincia a cedere il volante all’intelligenza artificiale. La proposta del nuovo Codice contempla una figura significativa: il «controllore», chiamato a intervenire nelle emergenze e individuato come responsabile della circolazione anche durante la guida automatizzata. Ma la presenza di un responsabile umano non chiarisce fino in fondo il problema di una macchina che agisce autonomamente.
Dilemma del carrello
Nel 1967 la filosofa Philippa Foot formulò il celebre «trolley problem», il dilemma del carrello ferroviario. Un treno fuori controllo sta per travolgere cinque persone. Possiamo deviarlo su un altro binario, dove però ne morirà una. È giusto sacrificare una vita per salvarne cinque? Immaginiamo ora un’automobile autonoma davanti a un incidente inevitabile. Deve privilegiare la sicurezza dei passeggeri o quella dei pedoni? Oppure: deve sterzare per evitare cinque persone, mettendo deliberatamente in pericolo una sesta? Sono situazioni estreme, ma hanno il merito di rendere evidente una questione: anche una macchina progettata per ridurre gli incidenti può trovarsi davanti a scelte nelle quali non tutti gli interessi possono essere salvaguardati contemporaneamente. In questo senso la filosofia morale offre diverse prospettive. Per l’utilitarismo di Jeremy Bentham conta soprattutto il bilancio delle conseguenze: ridurre il danno complessivo potrebbe significare accettare il sacrificio di una persona per salvarne cinque. Per Kant non potrebbe essere affatto così: nessun essere umano può essere trattato soltanto come un mezzo per raggiungere un fine, neppure quando quel fine è salvare altre vite.
Decisioni a monte
Ma nell’era dell’AI chi decide quale di questi princìpi debba guidare un’automobile? Il programmatore che scrive il codice? La casa automobilistica che sviluppa e installa il sistema? Oppure lo Stato che autorizza il veicolo a circolare? La domanda è meno astratta di quanto sembri. Un algoritmo non possiede una propria coscienza morale. Opera sulla base di obiettivi, vincoli, dati e criteri stabiliti da esseri umani. Anche quando utilizza tecniche di apprendimento automatico, le sue prestazioni dipendono da scelte compiute a monte: quali comportamenti premiare, quali rischi considerare accettabili, quali situazioni utilizzare per addestrarlo e verificarne la sicurezza.
C’è poi un ulteriore problema, forse più vicino alla nostra esperienza quotidiana. Siamo davvero disposti ad accettare che una macchina possa «sbagliare»? Vari studi hanno mostrato come le persone approvino in linea generale automobili capaci di salvare il maggior numero di vite, ma siano meno propense a comprarle quando questo principio potrebbe mettere a rischio la propria. E inoltre: giudicheremmo allo stesso modo un incidente provocato da un automobilista e uno causato da un algoritmo? L’errore umano ci è familiare. Sappiamo che chi guida può distrarsi, reagire tardi, valutare male una distanza. Dalla macchina, invece, pretendiamo una precisione quasi assoluta. Potremmo dunque rifiutare un sistema anche se risultasse statisticamente più sicuro di un conducente umano, soltanto perché incapace di garantirci l’assenza totale di errori.
Responsabilità
Esiste inoltre una differenza fondamentale tra affidare una decisione a una macchina e liberarsi della responsabilità. Hans Jonas direbbe che quanto più la tecnica amplia il potere dell’uomo, tanto più cresce il dovere di considerarne le conseguenze. Una macchina può prendere decisioni senza il nostro intervento immediato, ma non possiamo considerarci estranei ai loro effetti. Individuare chi debba rispondere dopo un incidente non equivale a stabilire chi abbia il diritto di decidere, prima, i princìpi della macchina. La vera rivoluzione, allora, non sarà vedere un’altra Maserati percorrere la Mille Miglia senza l’intervento del pilota. Sarà decidere democraticamente quali scelte affidare agli algoritmi e quali limiti imporre. Perché possiamo togliere le mani dal volante, ma non sottrarci alla responsabilità di ciò che abbiamo insegnato alle macchine a fare.
