la proposta

Intelligenza artificiale, rischi privacy con le proposte della Commissione ue

La Commissione Europea ha svelato le sue proposte di regolamentazione per l’intelligenza artificiale. Un progetto ambizioso volto a adeguare molte normative vigenti alle sfide dell’AI e a mantenere la leadership nella regolamentazione dell’uso delle nuove tecnologie anche dopo il Gdpr. Ma con molti rischi. Eccoli

11 Mar 2020
Luca Tosoni

avvocato e ricercatore presso l’Università di Oslo

renAIssance - intelligenza artificiale

La serie di proposte legislative sull’intelligenza artificiale presentata dalla Commissione europea – e in consultazione fino al 19 maggio 2020 – è molto ambiziosa: definisce alcuni necessari aggiustamenti delle attuali norme per rispondere alle nuove sfide poste dall’AI oltre a ulteriori proposte per regolare i sistemi che presentano particolari rischi.

Ci sono tuttavia anche alcune criticità legate a questo approccio che è opportuno sottolineare, intaccando equilibri nei rapporti tra privacy (e diritti dei cittadini) e innovazione.

Andiamo dunque a esaminare il progetto Ue che, per altro, va a aggiungersi alle numerose iniziative legislative che si stanno susseguendo in tutto il mondo per regolamentare l’uso dell’intelligenza artificiale alla luce della sempre maggiore consapevolezza della portata dei possibili impatti che un suo pieno sviluppo potrebbe avere sulle nostre vite (si veda, ad esempio, la panoramica globale fornita dal Future of Life Institute). Persino il Vaticano si è espresso sul tema, firmando insieme a Microsoft, IBM e FAO una Call for AI Ethics, documento il cui intento è quello di promuovere un approccio etico all’intelligenza artificiale e un senso di responsabilità nel regolamentarla.

Intelligenza artificiale, punti salienti delle proposte Ue

Le proposte legislative presentate dalla Commissione Europea si pongono un intento fondamentale e chiaro: l’Europa vuole mantenere la propria leadership nel regolamentare l’uso delle nuove tecnologie, una leadership che Anu Bradford associa al cosiddetto Brussels Effect, ovvero quel processo che spesso porta le norme adottate dall’Unione europea a diventare di fatto standard di riferimento globali, come si è visto con il GDPR.

Digital event
Torna il Cybersecurity 360 Summit strategia nazionale di cybersicurezza. Online, 27 ottobre
Sicurezza
Sicurezza dei dati

Quello presentato dalla Commissione è, come abbiamo già sottolineato, un progetto ambizioso: rivedere numerose normative europee, da quelle sulla protezione dei consumatori a quelle in materia di non discriminazione, per renderle idonee ad affrontare le sfide dell’intelligenza artificiale. Nel complesso, ciò si sostanzierebbe in una riforma di proporzioni comparabili a quella che ha dato luce al GDPR, con conseguenze importanti per il settore digitale, ma non solo.

Le proposte della Commissione partono dal presupposto che, già oggi, gli sviluppatori e gli utilizzatori di sistemi di intelligenza artificiale sono soggetti a numerosi requisiti normativi ai sensi del diritto europeo vigente (ad esempio, quelli imposti dalla normativa sulla protezione dei dati personali, sulla sicurezza generale dei prodotti, sui dispositivi medici, ecc.). Tuttavia, nella pratica, l’applicazione delle regole esistenti ai sistemi di intelligenza artificiale non è sempre scontata né facile.

L’intento della Commissione è quindi in primo luogo quello di chiarire quando e come le regole attuali si applichino all’intelligenza artificiale. In secondo luogo, la Commissione propone di stabilire regole ulteriori per quei sistemi di intelligenza artificiale che presentano particolari rischi, nei modi delineati di seguito. Tali regole dovrebbero tenere in debito conto le raccomandazioni espresse dal cosiddetto High-Level Expert Group on Artificial Intelligence.

  • Riconoscimento facciale: per quanto riguarda i sistemi di riconoscimento facciale, è interessante notare come, nelle proposte pubblicate, la Commissione indichi come, a suo avviso, l’uso di sistemi di riconoscimento facciale per l’identificazione di persone in pubblico è generalmente proibita ai sensi del GDPR. Tuttavia, la Commissione intende valutare se, in determinate circostanze, l’uso del riconoscimento facciale negli spazi pubblici possa essere ritenuto giustificato (con alcune garanzie). Si tratta di un cambio di rotta radicale rispetto alla moratoria di cinque anni che la Commissione aveva inizialmente preso in considerazione.
  • Valutazione di conformità e certificazione dei sistemi di intelligenza artificiale ad alto rischio: la Commissione propone di imporre che i sistemi di intelligenza artificiale ad alto rischio (in particolare quelli da utilizzarsi nel settore energetico, sanitario e dei trasporti) vengano sottoposti a un processo di valutazione di conformità prima di essere immessi sul mercato, eventualmente facendo anche ricorso ad opportuni meccanismi di certificazione. Si tratta di un processo già utilizzato per l’immissione sul mercato di prodotti più tradizionali ad alto rischio (come i dispositivi medici), processo che andrebbe riadattato alle caratteristiche specifiche dei sistemi di intelligenza artificiale.

Tale valutazione andrebbe a verificare se i sistemi in questione rispondono a determinati requisiti, tra cui:

  • requisiti relativi all’adeguatezza dei set di dati su cui i sistemi sono testati:
  • requisiti in materia di conservazione della documentazione relativa allo sviluppo dei sistemi in questione;
  • regole sull’informativa da fornire a chi usa tali sistemi;
  • requisiti che assicurino l’accuratezza di tali sistemi;
  • regole che assicurino l’intervento umano.
  • Revisione del concetto di “prodotto sicuro”: per quanto riguarda la normativa sulla sicurezza dei prodotti, la Commissione ritiene necessario rendere chiaro che il concetto di “prodotto sicuro” non riguarda le caratteristiche fisiche e meccaniche del prodotto, ma anche l’assenza di rischi intrinsecamente legati agli elementi digitali del prodotto.
  • Risarcimento dei danni connessi al malfunzionamento di prodotti digitali: secondo la Commissione, non è necessario riscrivere completamente le regole in materia di responsabilità civile per far fronte alle specificità dell’intelligenza artificiale. Tuttavia, potrebbe essere necessario introdurre alcuni aggiustamenti per assicurarsi che chiunque venga danneggiato dall’uso di un sistema di intelligenza artificiale possa agilmente ottenere i dovuti risarcimenti. Un documento pubblicato dalla Commissione fornisce alcuni spunti interessanti su come assicurarsi che questo avvenga.
  • Sistemi volontari di etichettatura dei sistemi di intelligenza artificiale a basso rischio: per assicura una maggiore fiducia nei sistemi di intelligenza artificiale, la Commissione prevede l’introduzione di sistemi volontari di etichettatura che rendano chiaro a chi li usa quali sono i principi che sono stati applicati nel svilupparli. Si tratta di un approccio seguito da varie normative europee, tra le quali il GDPR che prevede l’istituzione di marchi e sigilli che consentano agli interessati di valutare rapidamente il livello di protezione dei dati di determinati prodotti e servizi.

I rischi dell’approccio della Commissione

Alcuni degli aggiustamenti normativi proposti dalla Commissione appaiono certamente necessari per affrontare al meglio le sfide poste dall’uso dell’intelligenza artificiale. Tuttavia, la revisione simultanea di molteplici strumenti giuridici potrebbe potenzialmente aprire un vaso di Pandora. Infatti, una volta riaperta la discussione sul contenuto di un determinato quadro normativo, è difficile assicurarsi che le modifiche proposte e poi introdotte vengano limitate a quanto è strettamente necessario per far fronte alle nuove sfide dell’intelligenza artificiale, con il rischio che alcuni equilibri normativi consolidatisi nel tempo vengano ad essere intaccati. Un’alternativa potrebbe essere quella di adottare un unico e nuovo provvedimento normativo che regolamenti, sotto vari aspetti, l’uso dell’intelligenza artificiale.

È bene sottolineare che le proposte della Commissione sono sottoposte a consultazione pubblica fino al 19 maggio 2020. È quindi legittimo attendersi che alcuni elementi presentati in questo articolo potrebbero essere modificati, anche sostanzialmente, in futuro.

@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati