la consultazione

Danni da intelligenza artificiale, l’Ue guarda oltre l’Ai Act: i temi sul tavolo

Dopo la proposta di Regolamento Europeo sull’Intelligenza Artificiale dell’aprile 2021, la Commissione torna sul tema della responsabilità per i danni nell’era digitale con una consultazione aperta al pubblico fino al 10 gennaio 2022

22 Dic 2021
Giacomo Lusardi

Avvocato DLA Piper

intelligenza artificiale recruiting

Con la prima parte della consultazione pubblica lanciata il 18 ottobre 2021 la Commissione Europea prosegue i lavori avviati nel 2018 nell’ambito della valutazione della direttiva sulla responsabilità per danni da prodotti difettosi (d’ora in poi “Direttiva”) [[1]].

In quell’occasione la Commissione aveva rimesso in discussione attualità ed efficacia della Direttiva rispetto alle sfide poste dalla digitalizzazione, dall’economia circolare, dall’IoT, dall’Intelligenza Artificiale (d’ora in poi “IA”) e dalla sicurezza informatica, fenomeni trasversali a tutti i settori industriali che saranno sempre più parte della nostra vita quotidiana e attrarranno ingenti investimenti negli anni a venire.

La seconda parte della consultazione mira a raccogliere informazioni utili ad affrontare nello specifico il tema dei danni causati da sistemi di IA, sia con riferimento alla responsabilità da prodotto difettoso che alle norme nazionali in materia di responsabilità civile.

AI, l’evoluzione dell’attribuzione di responsabilità: lo stato dell’arte in Europa

Nella visione europea un regime giuridico chiaro e armonizzato in tema di sicurezza dei prodotti e responsabilità rappresenta uno degli snodi cruciali per consentire a imprese e consumatori di trarre vantaggio dall’evoluzione tecnologica, IA compresa.

La direttiva sulla responsabilità da prodotto difettoso e suoi principali limiti

L’Italia ha recepito la Direttiva con il DPR 224/1988, oggi abrogato dal Codice del Consumo. Essa si applica a tutti i prodotti mobili a prescindere dalla tecnologia impiegata, inclusa quindi l’IA. La Direttiva ha introdotto il concetto di responsabilità oggettiva dei produttori, in base al quale essi sono responsabili, indipendentemente dalla loro colpa, per i difetti dei prodotti destinati principalmente all’uso o al consumo privato che causino lesioni personali o danni materiali per un importo superiore a 500 Euro [[2]]. L’onere di provare il nesso causale tra il difetto del prodotto e il danno spetta al danneggiato e vi sono circostanze in cui i produttori possono fornire prova liberatoria (ad esempio se dimostrano che il difetto non esisteva al momento della messa in circolazione del prodotto).

WHITEPAPER
Cloud: tutto quello che devi sapere (e mettere in pratica)
Cloud
Supply Chain Management

Ad esito della valutazione del 2018 la Direttiva è stata ritenuta nel complesso efficace, ma di difficile applicazione ai prodotti nell’economia digitale a causa di alcune criticità e dell’obsolescenza di concetti fondamentali, come poi confermato anche dalla Relazione della Commissione del 2020 sulle implicazioni dell’intelligenza artificiale, dell’Internet delle cose e della robotica in materia di sicurezza e di responsabilità.

Molti stakeholder hanno messo in luce la difficoltà per i danneggiati di dimostrare il nesso tra danno e difetto dovuta all’asimmetria informativa sulle caratteristiche tecniche del prodotto e all’onere di anticipare i costi necessari a svolgere le relative valutazioni. A maggior ragione, questo aspetto è rilevante nel caso di sistemi di IA complessi (ad esempio, il c.d. deep learning), le cui logiche di funzionamento potrebbero talvolta risultare difficili da spiegare persino per gli stessi produttori e programmatori. Diventano quindi essenziali la trasparenza e la spiegabilità delle tecnologie e dei processi impiegati, con un livello di dettaglio variabile in base a settore e pubblico di riferimento [[3]].

Inoltre, l’aumento considerevole dell’offerta di servizi come parte di beni complessi, assieme all’autonomia e alla modificabilità crescenti dei prodotti, hanno reso i concetti di “prodotto” e “produttore”, “difetto” e “danno” molto più articolati rispetto al momento di entrata in vigore della Direttiva.

I temi al centro del dibattito: combinazione tra hardware e software, economia circolare e IA

La consultazione pone l’accento sull’evoluzione tecnologica dei prodotti e dell’offerta, formulando interrogativi sul potenziale adeguamento della Direttiva a una serie di scenari concreti, tra i quali l’integrazione nativa tra software e prodotti tangibili, la messa a disposizione successiva di software in grado di interagire con prodotti tangibili, il rilascio di update e patch per aggiornare le funzionalità dei prodotti o correggerne errori, il crescente impiego di software o i servizi che controllano il funzionamento dei prodotti (ad esempio un servizio basato su cloud per il funzionamento di un termostato intelligente).

Il cambiamento che sta attraversando la società nel suo complesso in chiave di sostenibilità è un altro tema centrale nell’ambito della consultazione, che si sofferma anche sul potenziale adeguamento della Direttiva ai modelli di business basati sull’economia circolare. In caso di ricondizionamento e ri-fabbricazione dei prodotti, come pure di modifiche durante il loro ciclo di vita, l’attribuzione della responsabilità per eventuali difetti non è sempre chiara.

Quanto all’IA, la Commissione evidenzia ancora una volta la difficoltà per i danneggiati di dimostrare eventuali difetti, il nesso causale tra difetto e danno, e la colpa del danneggiante (ove applicabile), soprattutto qualora i sistemi di IA risultino particolarmente opachi e complessi. Le problematiche in questione riguardano anche le fattispecie di responsabilità oggettiva e aggravata previste dagli ordinamenti nazionali che potrebbero già oggi trovare applicazione per i danni da IA, ad esempio in Italia la responsabilità per l’esercizio di attività pericolose o per danni causati dalla circolazione di veicoli [[4]].

È in questo contesto che la Commissione chiede riscontro sugli scenari che potrebbero seguire alla mancata armonizzazione della normativa in materia di responsabilità dell’AI o ad interpretazioni divergenti da parte dei tribunali nazionali, tra cui costi aggiuntivi per le imprese, limitazione delle attività transfrontaliere basate su IA, ricadute sui premi assicurativi e aumento dei prezzi di prodotti e servizi basati su IA.

Tra le misure al vaglio europeo per garantire e facilitare la risarcibilità sul piano civile dei danni provocati da sistemi di IA, l’alleggerimento o inversione dell’onere della prova del danneggiato e l’armonizzazione della normativa sulla responsabilità oggettiva e inerente le soluzioni assicurative.

Abbiamo già trattato in passato alcuni aspetti della responsabilità per danni causati dai sistemi di IA su questa testata, con particolare riferimento al tema della responsabilità contrattuale e ai sistemi di algo-trading.

Due mesi di consultazione, ma c’è ancora tempo

Al momento della redazione di questo articolo sono trascorsi circa due mesi dal lancio della consultazione e la Commissione ha ricevuto un totale di 107 commenti validi, in prevalenza da parte di cittadini (82,24%) e imprese (8,41%). Tuttavia, il numero di imprese partecipanti alla consultazione resta ancora molto basso (8), come pure quello delle associazioni di consumatori (2) e degli istituti universitari/di ricerca (3). A livello geografico, il numero più elevato di contributi proviene dalla Germania (72%), seguita da Italia (7%), Polonia e Austria (4% ciascuna). Sorprende l’assenza di commenti da Stati Uniti e Cina, tra i maggiori produttori di tecnologia e di soluzioni basate su IA.

La consultazione resterà aperta sino al 10 gennaio 2022 ed è auspicabile che per allora la Commissione potrà ricevere un numero sufficiente di commenti da tutte le principali categorie di stakeholder e dalle geografie interessate.

Note

  1. [] Direttiva 85/374/CEE del Consiglio del 25 luglio 1985 relativa al ravvicinamento delle disposizioni legislative, regolamentari ed amministrative degli Stati Membri in materia di responsabilità per danno da prodotti difettosi.
  2. [] Nel nostro Codice del Consumo il danno a cose è risarcibile solo nella misura eccedente la somma di Euro 387,00 (art. 123, co. 2).
  3. [] Abbiamo parlato in maniera più approfondita dell’argomento qui.
  4. [] Rispettivamente, artt. 2050 e 2054, co. 4, c.c.
@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articolo 1 di 4