Lo scenario

Chi ha paura del robot giudice? Se l’intelligenza artificiale entra nella Giustizia

Una riflessione sui possibili vantaggi e rischi dell’applicazione dell’intelligenza artificiale alla Giustizia, nell’attuale contesto sociale e politico

30 Gen 2020
Claudio Castelli

Presidente Corte Appello di Brescia


L’applicazione dell’intelligenza artificiale nella Giustizia offre lo spunto per riflettere sul rapporto macchine e uomo in quel contesto. Un rimedio “etico” alle paure ci viene dato dal punto 5 del Codice etico elaborato dal Cepej sull’applicazione dell’AI nella giustizia che prevede la possibilità di controllo con un intervento umano. Principio “sotto controllo utente”: preclude un approccio prescrittivo e garantisce che gli utenti siano attori informati e in controllo delle scelte fatte.

L’esempio del giudice robot

In realtà vediamo tutti con timore e sospetto un giudice robot. Certo, un giudice automatizzato è rapido, non influenzabile, rigoroso e matematico nelle decisioni. Ma dobbiamo chiederci se è questo che vogliamo da un giudice. Non solo, ma rispuntano paure ataviche, di essere dominati da macchine, costruite da noi e sfuggite al nostro controllo che poi ci dominano. E quale maggiore potere può avere una macchina rispetto al giudicarci. E non sono solo paure irrazionali a guidarci. È vero che l’assenza di emotività (almeno per il momento) di un sistema automatizzato lo mette al riparo dall’influenza di altri eventi, da cadute di umore e di carattere, da pregiudizi ed esperienze di vita che possono risultare condizionanti, ma elimina anche quel contatto diretto, quell’empatia, quel legame tutto umano che si crea anche nel processo. Un teste lo valuti non solo per il testo delle dichiarazioni, ma per le pause, il tono, la postura, gli occhi, le reazioni fisiche. È vero che anche questi elementi un domani potranno essere classificabili e valutabili in via automatica, ma senza mai poter instaurare quel legame che consente di capire e interpretare. E sopratutto le macchine hanno il grave limite di non poter prevedere e valutare l’evento eccezionale, quello che va fuori dalla norma.

Del resto, anche in materia di giustizia, le esperienze di app sinora elaborate in particolare negli USA al fine di dare consulenza legale ti dà una garanzia di soluzione “corretta”, in cui “corretta” significa coincidente con quella elaborata da team di specialisti dell’85 – 90 %. E allora viene da chiedersi : cosa succede per la quota residua? Perplessità e paure forti che comunque ancora non affrontano quello che a mio avviso è il dato fondamentale. Il ruolo del giudice, ruolo terribilmente umano, è anche quello di temperare e dare razionalità all’astratta durezza della legge. La legge è un comando generale e astratto che come tale nella sua lettera può regolare con equità la quasi generalità della materia su cui interviene, ma che spesso in una quota residuale viene ad essere iniqua con conseguenze del tutto estranee o addirittura opposte all’intenzione del legislatore. Questo avviene in particolare in un’epoca come la presente in cui l’incertezza della tecnica legislativa e la natura multifonte della normativa costringono l’interprete a ricostruire di volta in volta le disposizioni applicabili al caso concreto e dando loro razionalità ed una nuova vita. È il risultato dell’evoluzione e della crescita che ha avuto in tutti i paesi occidentali il giudiziario, come frutto della crisi e dell’incapacità della politica di dare risposta alle sempre crescenti domande di una società sempre più complessa.

I rischi dell’intelligenza artificiale nella Giustizia

L’applicazione dell’intelligenza artificiale nella giustizia può essere utilizzata per dare un’ulteriore spinta alla privatizzazione e ad una torsione meramente di profitto dell’attività nel mondo giudiziario. La funzione di consulenza legale rischia di diventare appannaggio solo della rete e di app dedicate, la professione di avvocato ha la prospettiva di essere scomposta in diverse attività parte delle quali totalmente in perdita, la stessa decisione, o almeno decisione prevedibile, appaltata a macchine predittive capaci di apprendere e di auto apprendere. I rischi sono formidabili ed ovviamente non derivano dagli strumenti e dalle tecnologie, ma dai dati che sono fondamento di tutte queste attività e da chi li inserisce.

WHITEPAPER
Trasformazione digitale per PMI: tutto quello che c’è da sapere
Dematerializzazione
Digital Transformation

Sorgono domande su quali dati vengono o verrebbero inseriti, se tutte le sentenze o solo alcune e scelte da chi e ancora certificate da chi circa provenienza e completezza. È facile prevedere che una volta esistente un “prodotto” tutti questi interrogativi passeranno in secondo piano e l’unica cosa rilevante saranno le indicazioni che usciranno dalla app o dal web. Con conseguenze estremamente pericolose perché i risultati appariranno come veridici ed affidabili, senza alcuna garanzia di autenticità e completezza. Chi volesse potrebbe addirittura orientare la futura giurisprudenza, facendo apparire come dominante questo o quell’orientamento, senza che nessuno si ponga il problema o possa contestarlo. Per non parlare della fetta di mercato che inevitabilmente toglierebbe alle professioni legali, riducendo l’inevitabile e potenzialmente fecondo rapporto umano, ad una mera consultazione di app o web.

Le potenzialità

Nessuno di noi è minimamente in grado di prevedere a livello prospettico quanto ed in che modo l’intelligenza artificiale modificherà la nostra attività. Ma già oggi possiamo tranquillamente pensare che su tre aspetti le macchine predittive possono incidere profondamente, ed in tempi rapidi. Il primo, quello forse più semplice, riguarda l’automazione di segmenti dell’attività della cancellerie. Si tratta di completare il progetto di automazione, di eliminare i residui cartacei, di automatizzare tutti i passaggi alle cancellerie, di controllare tramite codici o rilevatori il trasferimento dei fascicoli cartacei residui, di immissione dei provvedimenti nelle banche dati. Il secondo è la produzione di documenti. Non si tratta di “copia e incolla”, ma della possibilità data dall’enorme giacimento costituito dalla nostra produzione intellettuale, come giuristi (magistrati, avvocati, Accademia) di estrapolare e sviluppare elaborazioni, ragionamenti e portarli ad un livello più avanzato e raffinato. Il tutto con un formidabile supporto dato dalla base di dati di cui possiamo disporre.

Il terzo e probabilmente più pesante e fecondo come importanza e conseguenze è la strutturazione di banche dati della giurisprudenza che possono avere un impatto fortissimo sia interno alla giurisdizione che esterno.Banche dati che avranno plurimi effetti benefici. In primis di trasparenza perché tutta la produzione giudiziaria sarà a disposizione di cittadini e giuristi. In secondo luogo di consapevolezza delle decisioni e di circolarità delle decisioni, anche all’interno degli uffici giudiziari, con l’effetto di consentire e incrementare un positivo e fondamentale confronto della giurisprudenza al fine di evitare contrasti inconsapevoli e di incentivare la prevedibilità della giurisprudenza. Infine una banca dati che comprenda tutta la giurisprudenza sarà una vera e propria miniera, la base a disposizione di tutti, da cui attraverso ricerche con parole chiave o algoritmi si potranno trarre orientamenti o, ancora estrarre i provvedimenti di interesse da sottoporre ad analisi e rielaborazioni per ricerche o prodotti più raffinati. Una prospettiva entusiasmante e di grande utilità che ci convince che le tecnologie, con tutti i rischi e le consapevolezze che deve accompagnare il loro utilizzo, sono comunque vantaggiose e irrinunciabili.

@RIPRODUZIONE RISERVATA

Articolo 1 di 3