l'analisi

Un’Intelligenza artificiale basata su rischio e responsabilità: verso una legislazione Ue (Stati permettendo)

Procede il dibattito sulla regolamentazione dell’IA. Si inseriscono in questo contesto le raccomandazioni del Center for Information Policy Leadership (CIPL), volte all’adozione di un approccio basato sul rischio per disciplinare la materia nell’Ue. Ma gli Stati sono divisi sull’approccio. Facciamo il punto

09 Apr 2021
Marco Martorana

avvocato, studio legale Martorana, Presidente Assodata, DPO Certificato UNI 11697:2017

Lucas Pinelli

Studio legale Martorana – Vice President for Marketing, ELSA Belgium

intelligenza artificiale digitale

Procedono i lavori per l’elaborazione di una legislazione europea sull’intelligenza artificiale, che dovrebbe essere presentato entro quest’anno.

Verso una legislazione Ue sull’IA: i passaggi chiave

Il percorso è iniziato ad aprile 2019 con gli orientamenti etici della Commissione per un’intelligenza artificiale affidabile redatti da un gruppo di esperti di alto livello da essa istituito e le successive raccomandazioni dello stesso sulle politiche di investimento per un’intelligenza affidabile.

WHITEPAPER
La RPA in 9 step: da dove si comincia?
Intelligenza Artificiale
Realtà virtuale

Poi, a seguito della pubblicazione del libro bianco sull’intelligenza artificiale della Commissione, si è svolta un’importante consultazione pubblica tra febbraio e giugno 2020. I libri bianchi della Commissione “sono documenti che contengono proposte di azione dell’Unione europea (UE) in un settore specifico. Essi costituiscono talvolta il prolungamento dei libri verdi, il cui scopo è invece quello di avviare un processo di consultazione a livello dell’UE. Lo scopo dei libri bianchi è di avviare una discussione con il pubblico, le parti interessate, il Parlamento europeo e il Consiglio allo scopo di raggiungere il consenso politico” (dal “Glossario delle sintesi” reperibile sul sito eur-lex.europa.eu).

La consultazione ha attirato oltre 1200 contributi da cittadini europei, Stati membri, società civile, industria, accademici e altre parti interessate. Un report redatto sulla base delle varie risposte al libro bianco durante la fase di consultazione è stato pubblicato nel novembre 2020. Questa consultazione online fa parte di un più ampio processo di coinvolgimento delle parti interessate che contribuirà alla preparazione di varie opzioni normative. A seguito di un’analisi approfondita dei risultati della consultazione e di una valutazione d’impatto dettagliata, verrà presentata una proposta normativa.

La Commissione dovrebbe finalmente presentare la sua proposta di regolamentazione orizzontale dell’intelligenza artificiale il 24 aprile 2021, come annunciato dalla presidente Ursula von der Leyen. Tale documento mirerà a salvaguardare i valori e i diritti fondamentali dell’UE e la sicurezza degli utenti, imponendo agli sviluppatori di sistemi di IA ad alto rischio a soddisfare i requisiti obbligatori relativi alla loro affidabilità. Ad esempio, garantire la supervisione umana e informazioni chiare sulle capacità e sui limiti dell’IA.

Intelligenza artificiale, il punto sulla strategia europea: policy e prospettive

Le raccomandazioni del Center for Information Policy Leadership

È in questo contesto che il Center for Information Policy Leadership (CIPL) ha pubblicato le sue raccomandazioni per l’adozione di un approccio basato sul rischio in un regolamento dell’UE sull’Intelligenza Artificiale. Il CIPL suggerisce che qualsiasi forma di regolamentazione dell’IA dovrebbe “rimanere agile, proprio come la tecnologia che cerca di regolamentare”, questo a vantaggio degli individui, delle organizzazioni, dei regolatori, della società e dell’economia. Raccomandazioni più specifiche includono un quadro normativo incentrato sulle applicazioni di IA “ad alto rischio”, un quadro di responsabilità basato sul rischio e una supervisione dettagliata

Le raccomandazioni del CPIL si basano su tre principi: una regolamentazione limitata ai sistemi di IA ad alto rischio, che metta al centro il principio di accountability, e che preveda un meccanismo di supervisione basato sul rischio.

Un regolamento sull’intelligenza artificiale dovrebbe concentrarsi solo su quelle applicazioni di IA che sono ad alto rischio ed essere proporzionato e coerente in relazione al corpus legislativo esistente in tutta l’UE che si applica in modo neutrale dal punto di vista tecnologico. Pertanto, è necessario che le organizzazioni abbiano un modo per determinare se le loro applicazioni di intelligenza artificiale soddisfano i criteri di soglia ad alto rischio per rientrare nell’ambito di applicazione del regolamento. La CIPL propone quindi diversi criteri per determinare se l’IA rientri o meno in questa categoria.

Data la natura stessa e la costante evoluzione dei vari sistemi di intelligenza artificiale, infatti, una legislazione sull’IA troppo rigida ed estesa correrebbe il rischio di diventare obsoleta e/o poco praticabile sin dalla sua adozione. Una tale limitazione dello scopo di applicazione della futura regolamentazione è fondamentale in questo contesto.

Inoltre, seguendo un ragionamento simile a quello che ha condotto all’adozione del GDPR, l’approccio normativo dell’IA dovrebbe evitare di imporre requisiti prescrittivi dato il ritmo dell’evoluzione di queste tecnologie, lasciando una certa flessibilità per far sì che la regolamentazione non diventi rapidamente obsoleta. Dovrebbero essere previste, invece, regole basate su principi e risultati, che consentano alle organizzazioni di progredire verso il raggiungimento di obiettivi specifici (equità, trasparenza, accuratezza, controllo umano, ecc.) attraverso misure interne basate sul rischio, concrete, dimostrabili e verificabili.

Il principio di responsabilità delle organizzazioni

Pertanto, l’inclusione di un requisito esplicito di accountability farà sì che le organizzazioni siano più attente ai rischi e agli impatti delle loro applicazioni IA e le aiuterà a stabilire processi e controlli per sviluppare e implementare applicazioni IA responsabili, affidabili e sostenibili.

In questo contesto è importante, soprattutto quando un’applicazione IA presenta un rischio elevato, che tutte le organizzazioni, indipendentemente dalle loro dimensioni, mettano in atto i processi e i controlli necessari, che tengano in considerazione anche le legittime aspettative del mercato, dei partner commerciali e degli utenti, e che risultino in particolar modo in garanzie adeguate. Molte organizzazioni utilizzano già in modo proattivo quadri di responsabilità per affrontare le opportunità, i rischi, le sfide e le tensioni presentate dall’uso dell’IA, nonché per rispettare le regolamentazioni pertinenti, comprese le leggi sulla protezione dei dati e contro la discriminazione, e per considerare in modo proattivo le aspettative sociali e garantire la fiducia dei clienti. Queste best practice emergenti stanno iniziando a prendere forma come quadri di intelligenza artificiale e strumenti tecnici coerenti e completi, e probabilmente catalizzeranno lo sviluppo e l’implementazione di best practice da parte di tutte le parti interessate nell’ecosistema dell’IA, innescando un effetto di “corsa verso l’alto”. Queste pratiche consentiranno inoltre alle organizzazioni di promuovere la responsabilità organizzativa basata sul rischio come ponte per lo sviluppo di linee guida armonizzate e interoperabili a livello globale sulle applicazioni e gli usi dell’IA. Il quadro normativo dovrebbe inoltre fornire ricompense e incoraggiamenti adeguati al fine di stimolare ulteriormente e contribuire ad accelerare l’accountability e l’implementazione delle best practice.

Intelligenza artificiale, le regole per uno sviluppo a vantaggio di tutti

Una supervisione normativa moderna e flessibile

In più, le nuove tecnologie e gli usi innovativi richiedono una supervisione normativa moderna e flessibile. La supervisione delle pratiche relative all’IA dovrebbe essere basata sull’attuale ecosistema di regolatori settoriali e nazionali, comprese le autorità di protezione dei dati, ma con una collaborazione e coerenza forte e non burocratica. Raramente, infatti, si verificherà una situazione in cui i rischi generati da un’applicazione d’Intelligenza Artificiale non siano già sotto la supervisione di un regolatore esistente. L’esperienza e l’acume delle autorità di regolamentazione esistenti in materia di IA dovrebbero essere ampliate, piuttosto che creare un ulteriore livello di agenzie specifiche per questo settore. La supervisione e l’applicazione delle tecnologie intelligenti dovrebbero altresì essere eseguite attraverso una struttura europea o un organo di supervisione sull’IA, composto da esperti della materia, per consentire una cooperazione agile “su richiesta” e promuovere un’applicazione coerente dei principi.

Infine, le autorità di regolamentazione esistenti competenti dovrebbero implementare una supervisione e un’applicazione basate sul rischio, concentrandosi sulle aree dell’IA ad alto rischio, che riconoscono la conformità come un processo e un percorso dinamico, consentendo prove in buona fede ed errori onesti e un miglioramento costante. Questo approccio creerebbe un modo efficiente per risolvere i problemi di non conformità consentendo la risoluzione più rapida dei casi e potrebbe anche funzionare meglio nelle “aree grigie” della conformità, dove l’intelligenza artificiale crea tensione con le norme legali e dove potrebbe richiedere un tempo più lungo e uno sforzo più concertato e collaborativo per trovare una soluzione e migliorare la conformità sul campo.

Queste raccomandazioni ambiscono a fornire un quadro giuridico forte e allo stesso tempo agile in grado di fornire una alta protezione degli individui nel rispetto della natura evolutiva dell’IA che favorisca il progresso tecnologico.

Le risposte degli Stati membri al libro bianco della Commissione

Allo stesso tempo, gli Stati membri appaiono divisi sulla strada da intraprendere.

In un documento di sintesi i ministri del digitale di Danimarca, Belgio, Repubblica Ceca, Finlandia, Francia, Estonia, Irlanda, Lettonia, Lussemburgo, Paesi Bassi, Polonia, Portogallo, Spagna e Svezia hanno invitato la Commissione a incentivare lo sviluppo di tecnologie di intelligenza artificiale di nuova generazione, piuttosto che creare barriere.

La proposta dei 14 Paesi sarebbe piuttosto di orientarsi verso soluzioni di soft law come l’autoregolamentazione, l’etichettatura volontaria e altre pratiche volontarie, nonché un solido processo di standardizzazione come supplemento alla legislazione esistente che garantisce il rispetto degli standard essenziali di sicurezza e di protezione. Il soft law permetterebbe di imparare dalla tecnologia e identificare le potenziali sfide ad essa associate, tenendo conto della sua rapida evoluzione.

In senso contrario, la posizione tedesca propone un ambito molto ampio per le tecnologie che dovrebbero essere soggette alla nuova regolamentazione. La Germania ha così espresso il timore che la Commissione voglia applicare restrizioni solo alle applicazioni di IA ritenute ad alto rischio, temendo altresì che gli attuali piani della Commissione portino ad una situazione in cui alcuni usi ad alto rischio non sarebbero coperti dall’inizio se non rientrassero in determinati settori.

WEBINAR
18 Ottobre 2022 - 15:00
Strategia Omnicanale: quanto la conosci e la usi? Sfide e strategie per essere un passo avanti
Digital Transformation
Intelligenza Artificiale
@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articolo 1 di 4