L’intelligenza artificiale sbaglia nell’atto giudiziario: un caso a Brescia

Quando l’intelligenza artificiale sbaglia. E in un atto giudiziario finiscono dati non veri. È accaduto anche a Brescia.

«Proprio nei giorni scorsi anche al nostro Consiglio di Disciplina è stato segnalato, per
quanto mi consta per la prima volta, un caso di allucinazioni Ai in un atto giudiziario. La
verifica umana resta imprescindibile», ha detto l’avvocato Giovanni Rocchi, presidente dell’Ordine degli avvocati di Brescia nel suo intervento durante l’inaugurazione dell’anno giudiziario.

«La diffusione dell’intelligenza artificiale – ha aggiunto Rocchi – non può e non deve essere evitata, ma deve essere regolata e applicata con competenza, ragionevolezza e nei limiti di legge, a tutela dei diritti dei cittadini e nel rispetto della nostra Costituzione. Per questo è essenziale
che magistrati e avvocati sviluppino una cultura comune su questi strumenti».

Allucinazioni AI

In ambito di intelligenza artificiale, con allucinazioni si indica una situazione molto precisa: quando un sistema di AI genera informazioni che sembrano corrette, ma in realtà sono false, inventate o non verificabili.

Un’allucinazione può essere, per esempio: una fonte che non esiste, una data sbagliata, una citazione inventata, un fatto storico mai avvenuto, un nome o un ruolo attribuito a una persona che non lo ha mai avuto. E, in in ambito giudiziario, una sentenza inventata. 

Nel contesto giudiziario le allucinazioni dell’AI sono particolarmente pericolose perché possono produrre errori su persone reali, procedimenti reali e fatti penalmente rilevanti.