Se l’intelligenza artificiale entra nella Giustizia: rischi e potenzialità

L’applicazione dell’intelligenza artificiale nella Giustizia offre lo spunto per riflettere sul rapporto macchine e uomo in quel contesto. Un rimedio “etico” alle paure ci viene dato dal punto 5 del Codice etico elaborato dal Cepej sull’applicazione dell’AI nella giustizia che prevede la possibilità di controllo con un intervento umano. Principio “sotto controllo utente”: preclude un approccio prescrittivo e garantisce che gli utenti siano attori informati e in controllo delle scelte fatte.

In realtà vediamo tutti con timore e sospetto un giudice robot. Certo, un giudice automatizzato è rapido, non influenzabile, rigoroso e matematico nelle decisioni. Ma dobbiamo chiederci se è questo che vogliamo da un giudice. Non solo, ma rispuntano paure ataviche, di essere dominati da macchine, costruite da noi e sfuggite al nostro controllo che poi ci dominano. E quale maggiore potere può avere una macchina rispetto al giudicarci. E non sono solo paure irrazionali a guidarci.

È vero che l’assenza di emotività (almeno per il momento) di un sistema automatizzato lo mette al riparo dall’influenza di altri eventi, da cadute di umore e di carattere, da pregiudizi ed esperienze di vita che possono risultare condizionanti, ma elimina anche quel contatto diretto, quell’empatia, quel legame tutto umano che si crea anche nel processo. Un teste lo valuti non solo per il testo delle dichiarazioni, ma per le pause, il tono, la postura, gli occhi, le reazioni fisiche.

È vero che anche questi elementi un domani potranno essere classificabili e valutabili in via automatica, ma senza mai poter instaurare quel legame che consente di capire e interpretare. E sopratutto le macchine hanno il grave limite di non poter prevedere e valutare l’evento eccezionale, quello che va fuori dalla norma.

Del resto, anche in materia di giustizia, le esperienze di app sinora elaborate in particolare negli USA al fine di dare consulenza legale ti dà una garanzia di soluzione “corretta”, in cui “corretta” significa coincidente con quella elaborata da team di specialisti dell’85 – 90 %. E allora viene da chiedersi : cosa succede per la quota residua?

Continua a leggere su Agenda Digitale.