giustizia predittiva penale

Che cambia se è l’algoritmo a valutare i condannati: i test

Test hanno messo in luce il confronto tra le valutazioni umane e algoritmiche nell’ambito della giustizia predittiva penale, in cui questi due sistemi sono al centro di un acceso dibattito su quale sia più efficace

27 Ago 2020
Marco Martorana

avvocato, studio legale Martorana, Presidente Assodata, DPO Certificato UNI 11697:2017

giustizia

La giustizia predittiva penale si fonda si due sistemi: l’uno basato su specifici algoritmi, l’altro, sulle valutazioni dell’uomo. In entrambi i caso lo scopo è valutare se un individuo è più o meno portato a la recidiva del reato. Valutazione da cui dipende poi la decisione del giudice di concedergli la libertà provvisoria.

Una condizione che porta a un acceso dibattito incentrato sulla questione in ordine alla maggiore o minore accuratezza di risultato degli stessi metodi. In questo contesto, sono interessanti i risultati di specifici test svolti confrontando i risultati ottenuti dalle valutazioni umane e dal software Compas.

Algoritmi e valutazioni previsionali umane

Se infatti da un lato è innegabile la differenza ontologica delle due differenti modalità di valutazione, dall’altro lato recenti studi evidenziano la sostanziale equivalenza dei risultati ottenuti da valutazioni algoritmiche e valutazioni umane, nell’ambito della giustizia in materia penale.

WHITEPAPER
Sicurezza garantita per le tue applicazioni: ecco i 5 passaggi chiave da rispettare
Sicurezza
Software

In generale, la questione fondamentale che si pone al centro del dibattito in materia è se gli algoritmi siano migliori degli umani non addestrati nel predire la recidiva in modo equo e preciso. Gli Studi condotti negli ultimi anni vorrebbero fornire una risposta a tale interrogativo.

In particolare, la verifica è stata svolta in base ai parametri di accuratezza e distorsione nella valutazione umana e nella valutazione algoritmica propria del software COMPAS. I citati Studi hanno dimostrato come il software commerciale ampiamente utilizzato per prevedere la recidiva (Compas) non sia più accurato o equo delle previsioni di persone con poca o nessuna competenza in materia di giustizia penale che hanno risposto a un sondaggio online. Come vedremo a breve lo Studio ha verificato che “i partecipanti e COMPAS sembravano raggiungere un limite di prestazioni con un’accuratezza del 65% circa entrambi”.

I risultati della valutazione umana

Per quanto attiene nello specifico alla valutazione umana si rilevano i seguenti interessanti risultati ottenuti dai menzionati Studi. Degno di attenzione è sicuramente lo Studio basato sulla valutazione previsionale condotta da persone che hanno aderito ad un popolare mercato di crowdsourcing online, di età compresa tra 18 e 74 ed un livello di istruzione da “meno di un diploma di scuola superiore” a “laurea professionale” e, comunque, con un livello di conoscenza della materia penale pari a zero. Al termine di detto Studio si è giunti ad affermare come un piccolo gruppo di persone inesperte, con a disposizione molte meno informazioni rispetto a Compas (solo 7 funzioni rispetto alle 137 di Compas), ottiene valutazioni nel predire la recidive tanto accurate quanto Compas.

Lo comparazione si è svolta nel seguente modo. I partecipanti hanno consultato la descrizione di un imputato relativa a sesso, età e storia criminale dell’imputato ad eccezione della indicazione della razza. I partecipanti hanno predetto se questa persona avrebbe commesso recidiva entro 2 anni dal suo crimine più recente. Lo Studio è stato condotto su un totale di mille descrizioni degli imputati che sono state divise casualmente in 20 sottogruppi di 50 ciascuno. In seguito, ad ogni partecipante è stato assegnato uno di questi 20 sottoinsiemi. Si legge come “La precisione media e mediana di queste previsioni è del 62,1 e 64,0%”.

Successivamente, i risultati così ottenuti sono stati poi confrontati con le prestazioni di Compas su questo sottoinsieme di 1000 imputati. “Poiché gruppi di 20 partecipanti hanno giudicato lo stesso sottoinsieme di 50 imputati, i singoli giudizi non sono indipendenti. Tuttavia, poiché ciascun partecipante ha giudicato un solo sottoinsieme degli imputati, si può ragionevolmente presumere che le accuratezze mediane di ciascun sottoinsieme siano indipendenti”. Da ciò discende che le prestazioni dei partecipanti sui 20 sottoinsiemi possono essere confrontate direttamente con le prestazioni COMPAS sugli stessi 20 sottoinsiemi. “Un test ha messo in evidenza che la media delle 20 accuratezze mediane del partecipante del 62% è di poco inferiore alla precisione Compas del 65,2%”.

Inoltre, il presente Studio precisa come l’accuratezza della previsione possa anche essere valutata utilizzando l’AUC-ROC che per i partecipanti è 0,71 ± 0,03, quasi identico a 0,70 ± 0,04 di Compas. L’esame circa l’accuratezza della previsione può altresì essere condotto con strumenti della teoria del rilevamento del segnale in cui l’accuratezza è espressa in termini di sensibilità (d′) e bias (β). Lo Studio ha indicato i seguenti parametri: “Valori più alti di d ‘corrispondono a una maggiore sensibilità dei partecipanti. Un valore di d ′ = 0 indica che il partecipante non ha informazioni per effettuare identificazioni affidabili, indipendentemente dal pregiudizio che potrebbe avere. Un valore di β = 1,0 indica assenza di parzialità, un valore di β> 1 indica che i partecipanti sono propensi a classificare un imputato come non a rischio di recidiva, e β <1 indica che i partecipanti sono propensi a classificare un imputato come a rischio di recidivare”. “Con una d ′ di 0,86 e una β di 1,02, i partecipanti sono risultati leggermente più sensibili e leggermente meno distorti rispetto a Compas con una d ′ di 0,77 e una β di 1,08”.

Infine, lo Studio in esame pone l’attenzione sull’equità dei partecipanti rispetto alla razza di un imputato in base alle previsioni della folla. L’accuratezza dei partecipanti sugli imputati di colore è del 68,2% rispetto al 67,6% degli imputati bianchi. Un test non rivela alcuna differenza significativa tra le razze (P = 0,87). “Questo è simile a quello di COMPAS che ha un’accuratezza del 64,9% per gli imputati di colore e del 65,7% per gli imputati bianchi, il che non è significativamente diverso (P = 0,80, test t spaiato)”. Con detta misura di equità, i partecipanti e COMPAS sono giusti nei confronti degli imputati in di pelle bianca e di colore.

I risultati della valutazione algoritmica

Lo Studio ha voluto inoltre indagare quale sia la peculiarità, in termini di raffinatezza, dell’algoritmo predittivo Compas, considerato che i non esperti sono precisi quanto il software Compas. Il software Compas di Northpointe lavora con circa 137 funzioni distinte per prevedere la recidiva. Si legge che “con una precisione complessiva di circa il 65%, dette previsioni non sono così precise come potremmo desiderare”. Lo Studio ha paragonato il software Compas ad un semplice predittore lineare – regressione logistica (LR) – dotato delle stesse sette caratteristiche dei partecipanti. Ha così scoperto che esso produce una precisione di previsione simile a quella di COMPAS. “Rispetto alla precisione complessiva di Compas del 65,4%, il classificatore LR fornisce una precisione di prova complessiva del 66,6%”.

Alla luce di quanto precede, lo Studio è pervenuto ad un importante risultato ossia che un predittore lineare standard che utilizza solo 7 funzioni produce risultati simili al predittore Compas con 137 funzioni. In base a tali esiti, è stato possibile ragionevolmente concludere che “Compas non sta usando nulla di più sofisticato di un predittore lineare o suo equivalente”.

Conclusioni

Lo studio in esame è andato oltre. I ricercatori si sono infatti chiesti se l’utilizzo di un sottogruppo ancora più piccolo delle 7 funzionalità sarebbe accurato al pari dell’impiego delle 137 funzionalità di Compas. È stato così elaborato un sistema basato solo su due caratteristiche, età e numero di precedenti. Sebbene la previsione tramite Compas si avvale di 137 funzioni, la medesima precisione predittiva si afferma possa essere raggiunta anche attraverso due sole caratteristiche. Detto Studio pertanto giunge alla conclusione secondo cui i classificatori più sofisticati non migliorano la raffinatezza e neppure l’equità della previsione.

In conclusione, nell’insieme, tali risultati mettono in dubbio la maggior forza di previsione algoritmica della recidiva.

Per completezza espositiva della presente disamina non si può fare a meno di osservare che i sistemi di giustizia predittiva finalizzati all’aumento del grado di affidabilità siano in costante evoluzione. Nonostante quest’ultimo aspetto, la posizione del giudice “persona” è di fondamentale ed irrinunciabile importanza, ciò non solo perché costui rappresenta la garanzia di efficacia ed efficienza della giustizia penale. Indispensabile infatti che l’interessato possa essere messo nella condizione di sottoporre la sua situazione e le sue esigenze specifiche ad un giudice che possa guardare alla persona che ha di fronte, senza che vi sia la possibilità che tale contesto processuale sia degradato da un algoritmo ad una serie di risposte a domande predeterminate.

@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati