nuovo compromesso

AI ACT, come procede il regolamento UE sull’intelligenza artificiale: il nuovo testo

C’è un nuovo testo di compromesso per il regolamento UE sull’intelligenza artificiale. Si focalizza sui sistemi di IA “ad alto rischio” e l’individuazione degli obblighi e delle responsabilità che dovrebbero essere poste in capo ai fornitori dei sistemi di intelligenza artificiale

02 Set 2022
Marina Rita Carbone

Consulente privacy

regolamento europeo intelligenza artificiale

E’ stata diffusa, da parte di due relatori del Parlamento Europeo, un nuovo testo di compromesso per la proposta di Regolamento sull’Intelligenza Artificiale o AI Act. Lo scopo perseguito dal regolamento è quello di regolamentare lo sviluppo e l’utilizzo dell’intelligenza artificiale, allo scopo di incrementare la fiducia dei cittadini europei verso simili strumenti e garantire che l’utilizzo degli stessi non costituisca una violazione dei diritti fondamentali sanciti dalla normativa europea vigente.

Oggetto del nuovo testo di compromesso, stando a quanto riferito da Euractiv, sono:

  • i sistemi di IA c.d. “ad alto rischio” e
  • l’ individuazione degli obblighi e delle responsabilità che dovrebbero essere poste in capo ai fornitori dei sistemi di intelligenza artificiale.
AI Trilogy Series Webinar: Q&A

Le modifiche proposte dai correlatori Brand Benifei e Dragoș Tudorache saranno ora discusse e poste al vaglio del Parlamento Europeo, fermo restando che sono ancora molti i punti caldi della proposta che necessiteranno di ulteriori approfondimenti tecnici, una volta consolidate e chiarite le parti meno “controverse” della proposta medesima. Trattasi, secondo quanto riportato da Euractiv sulla scorta delle notizie rese note da un funzionario del Parlamento Europeo, di una strategia ben precisa perseguita dai legislatori, che ha portato sinora al mantenimento degli emendamenti di compromesso sinora proposti con lievi modifiche, accelerando i tempi di elaborazione del testo definitivo.

Regolamento intelligenza artificiale, gli obblighi dei fornitori per i sistemi ad alto rischio

Come anticipato in premessa, la nuova proposta emendativa introduce, per i fornitori di sistemi di intelligenza artificiale ad alto rischio, nuovi obblighi: in primo luogo, gli stessi dovranno implementare un sistema di gestione della qualità che potrà essere integrato nei sistemi esistenti in conformità alle norme europee di settore, ivi incluso il Regolamento Europeo sui dispositivi medici.

WHITEPAPER
Intelligent enterprise: dall’azienda estesa alla filiera integrata e collaborativa
IoT
Manifatturiero/Produzione

I fornitori di IA, inoltre, dovranno conservare i log generati automaticamente dai sistemi per almeno sei mesi, salvo che non sia previsto diversamente dalla normativa europea o dalla normativa nazionale applicabile, o si renda appropriato conservare i log per un periodo maggiormente esteso sulla scorta di quanto stabilito dagli standard di settore o dello scopo attribuito al sistema di IA.

Tuttavia, sono state rimosse le norme che prevedevano l’obbligo di redigere la documentazione tecnica e sulla valutazione della conformità, a causa della loro ridondanza con altri articoli dello stesso testo normativo.

Resta fermo che, ove il fornitore di IA ritenga che uno dei suoi sistemi ad alto rischio non sia conforme al regolamento, dovrà, senza indugio, ritirare lo stesso dal mercato e disabilitarlo in via definitiva.

In capo ai fornitori di sistemi di IA viene posto, altresì, l’onere di informare immediatamente i distributori e gli eventuali ulteriori attori della catena del valore, di qualsiasi non conformità rilevata sul sistema, e delle azioni correttive intraprese per rimediare a detta non conformità; parimenti, dovranno essere informate di ciò anche le autorità nazionali di vigilanza del mercato, e l’organismo che si è occupato di verificare il sistema.

Anche gli utenti dei sistemi di IA ad alto rischio dovranno essere disponibili a collaborare con le Autorità nazionali, il Consiglio Europeo per l’IA e la Commissione Europea, al fine di dimostrare la conformità del sistema, al pari di quanto previsto per i fornitori.

Su richiesta motivata dell’esecutivo dell’UE o di un’autorità di vigilanza del mercato, i fornitori o gli utenti dovranno poi fornire l’accesso ai registri generati automaticamente dal sistema, con obbligo di riservarezza per tutti gli enti pubblici cui viene consentito l’accesso.

La catena delle responsabilità

La proposta emendativa, più in generale, si focalizza, sulla corretta ripartizione delle responsabilità lungo l’interezza della complessa catena di approvvigionamento dei sistemi di IA. Proprio a tal riguardo, non mancano all’interno dell’emendamento anche una serie di incentivi a includere disposizioni specifiche legate al concetto di IA generica, ossia sistemi che possono essere costruiti per svolgere una serie di compiti diversi.

Relativamente a detti sistemi, infatti, appare particolarmente complesso individuare le ipotesi nelle quali il fornitore possa essere ritenuto responsabile dei risultati ottenuti dall’IA, non potendo lo stesso avere contezza, al momento in cui l’IA è sviluppata ed immessa sul mercato, di quale scopo gli utenti potranno dare ai sistemi finali. Per tale ragione, l’argomento non appare ancora pienamente risolto.

Ciò premesso, il testo di compromesso mira altresì a chiarire le responsabilità, oltre a quelle dei fornitori dei sistemi, anche degli importatori e dei distributori dei sistemi di IA ad alto rischio, focalizzandosi su come queste collaboreranno con le autorità nazionali e su come mitigare i rischi imprevisti.

Inoltre, quale prerequisito per poter commercializzare le IA nel mercato dell’UE, i fornitori dovranno nominare un rappresentante autorizzato, il quale sarà incaricato di garantire che la procedura di valutazione delle conformità del sistema sia stata eseguita, nonché di tenere a disposizione dell’autorità nazionale competente tutta la documentazione pertinente, così come la dichiarazione di conformità.

Le modifiche alle procedure amministrative

All’interno del compromesso, secondo quanto riportato da Euractiv, i deputati hanno focalizzato l’attenzione anche sul ruolo degli organismi notificati, nonché delle società private incaricate di controllare la conformità dei sistemi ad alto rischio e delle autorità di notifica, oltre che delle autorità nazionali che esercitano l’attività di controllo sugli organismi.

Il testo di compromesso, in particolare, mira a garantire che vi siano procedure amministrative coerenti: a titolo esemplificativo, si prevede che la procedura per la valutazione e il monitoraggio degli organismi di valutazione della conformità debba essere concordata da tutte le autorità nazionali competenti.

All’interno del nuovo testo di compromesso è stato rimosso, poi, il paragrafo sulle “revolving-doors”, che mirava ad evitare che potessero esserci dei conflitti di interesse tra gli organismi di verifica della conformità e il fornitore di IA, in modo particolarmente stringente: la disposizione, infatti, impedirebbe al dipendente di un organismo notificato di lavorare con un fornitore di sistemi di intelligenza artificiale per un anno successivo alla verifica, da parte dell’organismo, di uno dei sistemi resi dal fornitore medesimo.

Inoltre, è stata chiarita maggiormente la procedura tramite la quale poter ottenere l’accreditamento degli organismi di valutazione della conformità nei paesi terzi: questi ultimi, in particolare, potranno essere accreditati mediante il rispetto di uno schema di valutazione della conformità (conformity assessment scheme), o un accordo di riconoscimento reciproco (mutual recognition agreement).

I prossimi passi

Una volta discusse le modifiche proposte nel nuovo testo di compromesso, gli eurodeputati procederanno con la discussione di una serie di ulteriori norme che andranno a disciplinare la presunzione di conformità ed il processo di valutazione della conformità medesima, oltre alla circostanza per la quale i tempi di conservazione dei documenti tecnici debbano o meno essere basati su una tempistica specifica o sull’intero ciclo di vita del prodotto.

@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articolo 1 di 3