Commissione ue

Sulle regole AI l’Europa sceglie approccio “industriale”: luci e ombre

Il regolamento della Commissione su intelligenza artificiale è testo tecnico, da regolazione industriale, in cui la centralità dell’uomo (human-centred AI) non si delinea ancora in maniera completa e netta sul piano operativo. E si sconta anche qualche rigidità assente nel Gdpr. Un approccio molto rispetto rispetto a prima

Pubblicato il 27 Apr 2021

Alessandro Mantelero

Professore associato di Diritto Privato nel Politecnico di Torino, esperto scientifico dell’Ad hoc Committee on Artificial Intelligence del Consiglio d’Europa

Codex open ai gptr - - Explainable AI - IA no code - BLOOM

La Commissione europea ha presentato la sua proposta di regolamento dell’intelligenza artificiale: 108 pagine e IX allegati. Un articolato di norme con intrecci e rimandi che forse dovrebbe far riflettere le tecno-burocrazie sull’opportunità di testi normativi più lineari.

Un cambio di prospettiva: industriale

Un regolamento e non una direttiva. Scelta ambiziosa, entrare subito in medias res con uno strumento di elevata armonizzazione, in un settore dove in realtà c’è poco da armonizzare – mancando regolamentazioni ad hoc nazionali –, ma molto da normare guardando agli scenari dell’AI di oggi e di un futuro prossimo.

WHITEPAPER
Ottenere valore tangibile dal Metaverso: ecco come fare
Intelligenza Artificiale
Realtà virtuale

Dopo anni di riflessione sulla “trustworthy AI”, declinata in ottica di principi etici (che poi etici in gran parte non erano, bensì basati sui diritti fondamentali), la Commissione con un cambio di prospettiva ragguardevole ed apprezzabile guarda ad una regolamentazione di tipo industriale, incentrata su standard di conformità, tipizzazione dei casi di rischio (art. 6 ed allegati II e III) e centralità della Commissione (art. 7).

Scorza: “Sulle regole AI l’Europa pone la prima pietra, ma sarà sfida enorme: ecco perché”

Non che la dimensione etica non sia e resti importante, ma come aspetto che integra quello giuridico, non come livello che vi si sovrappone e talvolta confusamente vi si intreccia. Sempre più verremo, infatti, chiamati a scelte etiche sul ruolo dell’AI nella società, nel valutare quanto e quale potere demandare alle “macchine” ed a chi le controlla. Servono però delle regole di fondo, anche basate su una contestualizzazione dell’esistente, per definire un orizzonte comune e condiviso, scevro dalla soggettività, dalla natura contestuale e dalla variabilità dei molti codici etici.

Da qui la centralità nella regolamentazione dell’AI del framework dei diritti fondamentali, non a caso evocata da molti organismi internazionali, dall’Agenzia dell’Unione europea per i diritti fondamentali, dal Consiglio d’Europa, da autorità di regolamentazione, da varie NGOs e da parte della letteratura specialistica su questi temi.

Poco sviluppati i meccanismi di valutazione d’impatto sui diritti

In questo scenario stupisce quindi un poco che i meccanismi di valutazione d’impatto sui diritti fondamentali non abbiano un adeguato sviluppo nel testo proposto, incorporati come sono in una più ampia valutazione di conformità, che guarda molto al modello della sicurezza dei prodotti e non coglie i profili partecipativi ormai essenziali per un concreto sviluppo dell’AI che metta al centro le persone.

Nel dibattito degli ultimi anni, l’AI era infatti quella dei sistemi con bias, delle potenziali conseguenze sui singoli dei modelli decisionali, quella che necessitava di un framework forte per la gestione del rischio, di modelli di valutazione d’impatto contestuale su diritti e libertà individuali e collettivi. L’immagine che ci restituisce (per ora) Bruxelles è soprattutto un’AI del rischio industriale, che non definisce propriamente sistemi di valutazione d’impatto per le conseguenze dell’uso dell’AI con riguardo ai diritti e libertà dei singoli e dei gruppi.

I settori ad alto rischio sono stati individuati in maniera top-down, indicati nel Regolamento ed ampliabili entro tali maglie a sola iniziativa della Commissione. Una valutazione d’impatto che includa gli effetti su diritti e libertà fondamentali è circoscritta solamente a questi ambiti, nella presunzione che si possano davvero definire categorie e tipologie certe e ricorrenti di applicazioni critiche dell’AI.

Manca l’apertura del Gdpr: i problemi del regolamento

Pare qui sottostimata la versatilità di tali applicazioni: una bambola “intelligente”, ad esempio, in quanto giocattolo con AI davvero comporta un rischio maggiore di un sistema di controllo biometrico del livello di attenzione degli studenti, come quello proposto poco tempo fa in Cina? Una versatilità dunque lontana da un dualismo fra alto rischio e no, specie ove elaborato su base di classificazioni per tipologie e finalità.

Guardando ad un altro regolamento di successo su scala globale, il GDPR, si sarebbe potuta proporre una valutazione del rischio aperta e contestuale, affidata a chi pone in essere l’attività da cui il rischio potrebbe derivare (che poi è quello che accade sovente nella disciplina del danno da pericolo). È questo il modello della valutazione d’impatto sui diritti umani che tradizionalmente si utilizza anche nel contesto dell’attività d’impresa, ed è questo il modello cui guarda il Consiglio d’Europa per la prossima convenzione sull’AI su cui sta lavorando il CAHAI (Ad hoc Committee on Artificial Intelligence).

A Bruxelles sembra invece, per ora, prevalere il technology assessment, ossia una valutazione verticistica, centralizzata, generale, fatta su tipologie astratte di possibili usi dell’AI, con la rigidità propria dei modelli tipizzanti (molti di noi ricordano le “magnifiche sorti” dell’Allegato B del d. lgs. 196/2003).

È prevalsa una logica di regolamentazione industriale, di regolazione di conformità, basata su processi di gestione della qualità, documentazione tecnica, tracciamento delle operazioni, certificazioni, ecc. Tutto questo, intendiamoci, è bene. È vero che i sistemi devono essere sicuri, che devono esserci standard che facilitino l’implementazione di tale sicurezza.

L’AI pone però sfide che toccano il rapporto fra uomo e macchine (rectius fra uomo e chi crea/usa le macchine “intelligenti”) e l’Unione europea ha come elemento costitutivo la Carta dei diritti fondamentali. Per questo, una maggior elaborazione sul punto era attesa.

Certo ci sono le applicazioni vietate, segno tangibile della via europea all’AI. Rispetto alle altre applicazioni però, le tante non così impattanti, manca ancora un modello concreto ed efficacie di valutazione dell’impatto sui diritti e le libertà individuali e collettive.

In conclusione

Quando nel 2012 la Commissione europea propose la bozza di quello che sarebbe poi diventato il GDPR, il testo venne accolto con favore da quanti avevano a cuore i diritti fondamentali, apprezzandone il coraggio nel porre punti fermi a tutela dei cittadini nel contesto digitale, nella convinzione che il vantaggio competitivo nella tecnologia si acquisisce anche mediante una tutela forte dei diritti. Questo modello ha avuto successo, si è dimostrato efficace argine a fronte dei vari abusi che hanno segnato gli ultimi anni della digital economy. È divenuto un riferimento anche per quanti, come gli USA, ritenevano che regole di tutela limitassero l’innovazione. Innovazione che invece ha avuto stimolo dal quadro normativo, irrobustendo l’offerta di tecnologie privacy-oriented, in una logica che potremmo dire win-win.

Oggi, nell’aprile 2021, lo scenario pare un poco diverso. Un testo tecnico, da regolazione industriale, in cui la centralità dell’uomo (human-centred AI) non si delinea ancora in maniera completa e netta sul piano operativo. Pur nell’importanza della posizione assunta dalla Commissione a tutela dei diritti e delle libertà, rimane dunque ancora molto lavoro per gli anni a venire.

Serve elaborare in maniera più puntuale la parte sulla valutazione del rischio legata all’impatto dell’AI su diritti e libertà fondamentali, evitando una visione meramente verticistica della loro salvaguardia, non circoscrivendola solo ad alcuni ambiti e supportandola con un adeguato framework valutativo.

Come in altri settori ad alto impatto sull’uomo – si pensi alla biomedicina –, non conta essere quelli che spingono più avanti la soglia del possibile tecnologico, ma  

Servirà volare alti, ma non in un volo di Icaro nell’inseguimento di Paesi che hanno acquisito posizioni di vertice nell’AI a prezzo di negare o fortemente comprimere i diritti umani.

INFOGRAFICA
Rendere più efficienti i tempi di attesa in sanità: ecco come fare, grazie al digitale
Intelligenza Artificiale
Sanità
@RIPRODUZIONE RISERVATA

Valuta questo articolo

La tua opinione è importante per noi!

Speciale PNRR

Tutti
Incentivi
Salute digitale
Formazione
Analisi
Sostenibilità
PA
Sostemibilità
Sicurezza
Digital Economy
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati