Intelligenza artificiale

L’AI nel diritto penale e civile: come affrontare i problemi di trasparenza e responsabilità



Indirizzo copiato

Nonostante l’IA non possa essere “personificata”, la sua crescente autonomia solleva questioni etiche e giuridiche. È necessaria una regolamentazione specifica per bilanciare innovazione e giustizia, garantendo che l’IA supporti ma non sostituisca l’uomo nel sistema legale

Pubblicato il 24 mag 2024

Ranieri Razzante

Comitato per la strategia dell'IA presso la Presidenza del Consiglio



IA intelligenza artificiale ai generativa e copyright

Si può punire l’intelligenza artificiale? Si può chiederle i danni?

Siamo ancora all’anno zero su tale profilo, e non perché non siamo “intelligenti” o acculturati giuridicamente. Ma perché è la risposta più difficile ai tanti, troppi quesiti che la nuova tecnologia impone.

Ci si interroga circa la possibilità che il mondo digitale, in cui operano, a vario titolo, diversi soggetti, possa restare senza apposita disciplina. Se ne serva una ad hoc o vi si debbano applicare i codici già in uso.

L’intelligenza artificiale e la questione della responsabilità legale

Parlando dell’Italia, non dimentichiamoci che il nostro civil law impone precisi canoni comportamentali alle persone fisiche e a quelle giuridiche. Ma, per l’appunto, l’AI non è nulla di questo.

È un tertium genus? È un prodotto “transgenico”?

Secondo la definizione fornita nella Comunicazione della Commissione europea del 2018 (Communication Artificial Intelligence for Europe), l’AI si riferisce a sistemi che mostrano un comportamento intelligente, che sanno analizzare il loro ambiente e agire – con un certo grado di autonomia – per raggiungere obiettivi specifici.

In altre parole, l’intelligenza artificiale consiste nell’abilità di una macchina di mostrare capacità umane quali l’apprendimento, il ragionamento, la creatività e la pianificazione: si tratta, quindi, di sistemi intelligenti, in grado di adattare il loro comportamento sulla base degli effetti delle azioni precedentemente impostate.

Quindi, data anche la definizione dell’AI Act, nulla di “umano” o “personificabile”.

Come di recente riaffermato da Federico Faggin, “nemmeno la forma più evoluta di intelligenza artificiale potrà mai sostituire l’uomo”.

Il contributo dell’IA nel sistema giuridico

Allora, siamo tranquilli (i più) dal punto di vista “etico”; ma, sovente, l’etica non va col diritto. E qui la divaricazione c’è, anche se una IA non etica può più facilmente deviare dai suoi schemi “in bonis” (la presunzione di innocenza vale anche per le macchine!) e, quindi, arrecare danni alle persone, sia fisici che strutturali.

Il diritto, la giurisprudenza, le investigazioni, possono certamente giovarsi di sistemi elaborativi e investigativi, di IA forti e deboli: basti pensare ai nuovi software informatici, agli algoritmi predittivi sull’esito delle controversie, all’utilizzo da parte delle forze di polizia e della difesa.

Si rende necessario, però, rivedere – o, addirittura, reinventare –  il rapporto tra AI e diritto penale e civile: occorre ribadire che le qualità umane non potranno mai essere totalmente sostituite dalla tecnologia, visti anche i rischi che il sistema di giustizia (penale soprattutto) dovrà affrontare, ma si auspica il mantenimento di un modello che persegua l’obiettivo primario di una “giustizia giusta”, non rinunciando all’apporto del progresso tecnologico.

Il ddl governativo che si appresta a essere approvato dal Parlamento va in questa direzione, almeno in quest’ultimo senso, poiché prescrive che l’uso dell’AI in giustizia debba lasciare sempre al Giudice la cosiddetta “ardua sentenza”.

L’IA e il sistema penale: opportunità e rischi

L’IA potrebbe entrare nel sistema penale in svariati ambiti, quali il policing, il profiling e il sentencing, corroborando (e lasciandosi guidare) da investigatori e giudici.

In primo luogo, si pensi al miglioramento della cosiddetta law enforcement, con la possibilità di “mappare” il rischio criminale, al fine di ridurre la commissione di reati prevedibili e di individuare con maggior precisione i responsabili dei crimini.

In secondo luogo, in sede giudiziale, si ragiona sulla maggior precisione delle valutazioni mediante algoritmi predittivi; si tratta di strumenti che analizzano un numero elevato di dati del passato e individuano delle ricorrenze.Si pensi alla pericolosità di un soggetto condannato, che rileva: a)per il rischio di recidiva; b) per l’applicazione o la revisione di una misura di sicurezza; c)per la commisurazione della pena secondo gli indici individuati dal codice penale, e molto altro.

Il problema della trasparenza dei dati nell’IA

Ovviamente, qui più che altrove la selezione dei dati di immissione ed alimentazione degli LLMM dovrà essere “chirurgica” e nient’affatto massiva e incontrollata (e incontrollabile). La trasparenza del dato è, a mio avviso, l’unico vero problema ancora da smarcare nel ragionamento sull’opportunità dell’AI come supporto all’essere umano.

L’algoritmo si affianca ed integra la legge, in qualche modo: qui non si scherza.

È chiaro che tali problematiche non devono causare una chiusura totale verso il progresso, poiché è indubbio l’apporto positivo dell’AI nell’ordinamento penale e civile del nostro Paese, soprattutto in un momento storico, che in verità dura da troppo tempo, di crisi della giustizia in termini di risorse umane e tecnologiche.

Non bisogna poi dimenticare che nel web operano strutture di qualsiasi genere, e che l’utilizzo sempre più ampio dell’IA da parte della criminalità organizzata e terroristica è un dato incontrovertibile.

Ma dobbiamo inventarci, ed esportare a livello europeo, un modello di imputazione della responsabilità degli eventi che vedono il contributo causale dei sistemi di intelligenza artificiale, segnatamente generativa.

La responsabilità per danno in caso di malfunzionamento dell’IA

Dal punto di vista civilistico, probabilmente il sistema della responsabilità per danno da prodotto, della tutela del consumatore, dei marchi e brevetti, possono ritenersi più facilmente esportabili in campo IA.

Al contrario, la natura “intelligente” dei nuovi prodotti comporta difficoltà peculiari nell’attribuire la responsabilità – sia colposa che dolosa – per un danno verificatosi.

L’utilizzatore umano, va detto chiaramente, ha sempre la possibilità materiale di intervenire al fine di correggere eventuali malfunzionamenti della macchina. Ci si sta chiedendo però – e, secondo me, non è proprio necessario – se sia opportuno o meno che l’ordinamento imponga un simile obbligo di sorveglianza. Ciò soprattutto pensando, da parte dei soggetti interessati, legittimamente, alla produzione e all’utilizzo di sistemi di AI, al fatto che si vanificherebbe così la gran parte dei vantaggi connessi al carattere “intelligente” delle tecnologie.

Ma la “scuola protezionistica” che sembra potersi evincere dall’AI Act e dalla regolamentazione italiana parrebbe quella preferibile da seguire. Si pensi solo un attimo e, a titolo marcatamente esemplificativo, ai danni alla persona, alla salute, all’ambiente.

Alla luce di quanto detto, l’implementazione di nuove tecnologie dovrebbe essere unita: allo sviluppo culturale e informativo di tutti gli attori del sistema; alla messa a disposizione di risorse dedicate adeguate; alla protezione dei dati grezzi derivanti dal monitoraggio condotto; al coordinamento di tutti gli attori della catena della sorveglianza fino alla persecuzione dei reati e all’utilizzo di protocolli condivisi.

L’attribuzione della responsabilità per crimini online e l’IA

Ma non meno trascurabile, anche se lo si accenna per ultimo, è il problema della cosiddetta “attribuzione” della responsabilità per crimini online, o reati comuni commessi mediante strumenti informatici di qualsiasi tipo.

Qui è l’intera UE che deve farsi carico di inasprire i criteri legali e armonizzare gli standard di prova per l’attribuzione. L’Unità Cibernetica Comune dell’UE dovrebbe, con le altre, essere rafforzata per migliorare lo scambio di informazioni forensi e coordinare in modo più efficace la politica di attribuzione. Infine, gli Stati membri dell’UE e i loro partner alleati dovrebbero coordinare meglio il segnale politico di condanna dei cyberattacchi.

Le sfide future dell’IA nella giustizia

In questo senso sembra essersi mosso il recentissimo G7 della Cyber, anche se, va detto, nell’ambito dell’intelligence si potrebbe continuare a scontare quello che è un limite connaturato alla stessa difesa: quello della riservatezza e protezione nazionale degli interessi.

Se l’UE vuole imporre sanzioni informatiche legittime, deve prima determinare l’origine (attribuzione) degli attacchi informatici in modo attento e ragionevole.

Speciale PNRR

Tutti
Incentivi
Salute digitale
Formazione
Analisi
Sostenibilità
PA
Sostemibilità
Sicurezza
Digital Economy
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati

Articolo 1 di 3