commissione europea

Intelligenza artificiale “affidabile”: così l’Europa sarà motore di sviluppo positivo

Creare un sistema di fiducia nell’intelligenza artificiale serve sia per proteggere cittadini e democrazia sia per sviluppare il mercato, e quindi l’innovazione e la prosperità in Europa. Serve un quadro equilibrato, senza regole eccessive ma con un occhio alle tutele fondamentali. Il punto dalla Commissione Ue

25 Nov 2020
Lucilla Sioli

direttore “Artificial Intelligence and Digital Industry” della DG Connect della Commissione Europea

Artificial-Intelligence

L’Europa sta lavorando per un quadro di regole e azioni che restituisca a cittadini e aziende un’intelligenza artificiale (AI) sviluppata in modo affidabile. Ed è importante che sia “affidabile”: è questa la parola cardine da considerare.

L’AI può avere grossi impatti economici, può aumentare efficienza e produttività, e migliorare la qualità della vita. Se non ben sviluppata però può sviluppare problemi di sicurezza – si pensi a device medici o automobili connesse. Per mettere sul mercato dispositivi di questo tipo, che hanno un alto impatto sulla vita, sono già necessari certificati, che ne analizzano sì il software ma che al momento non prendono in considerazione nello specifico l’AI.

Intelligenza artificiale, parola d’ordine: fiducia

Oltre al problema di sicurezza fisica, c’è da considerare un rischio per i diritti fondamentali. Un esempio arriva dall’apparato di videosorveglianza di Como, con riconoscimento facciale, che non rispettava la privacy né era accurata. Tanto che è dovuto intervenire l’autorità garante privacy.

WHITEPAPER
AZIENDA RETAIL: ecco i 15 motivi per cui hai bisogno dell'Intelligenza Artificiale!
Intelligenza Artificiale
Retail

Di converso, è necessario migliorare la fiducia in queste tecnologie altrimenti non può decollare il mercato sottostante, che è utile alla crescita economica europea e al benessere dei cittadini.

In un nostro sondaggio alle imprese europee, il 65 per cento di loro ha detto che una delle principali barriere all’uso di AI è proprio la mancanza di fiducia.

Creare un sistema di fiducia ci serve quindi sia per proteggere i cittadini, la società ma anche per sviluppare il mercato, e quindi l’innovazione e la prosperità in Europa.

Questo principio – sviluppare l’affidabilità dell’AI a favore sia della crescita del mercato sia della sostenibilità ambientale e della tutela dei nostri diritti – è cardine dell’approccio dell’UE su tutte le innovazioni digitali.

All’interno di questo percorso verso il futuro dell’AI, abbiamo già fatto molta strada. L’High level expert group on AI per due anni ha seguito la commissione europea e da qui si è arrivati a stilare principi per una “AI di fiducia” (trusted), quindi tradotti in una checklist per gli sviluppatori. Chi sviluppa AI si può così porre alcune domande e riflettere sui rispetto di alcuni principi, per capire se sta sviluppando una AI trustworthy.

Poi a febbraio abbiamo pubblicato un libro bianco su AI, diviso in due parti:

  • l’ecosistema di eccellenza con misure in atto per sovvenzionare lo sviluppo dell’AI;
  • l’ecosistema della fiducia, proposte di regole per rendere l’AI più affidabile.

Obiettivo dell’Europa è insomma diventare motore di sviluppo di una AI affidabile.

Alla ricerca di un quadro regolamentare equilibrato

A luglio è finita la discussione pubblica sul libro e ora stiamo preparando un testo legislativo per regolare il fenomeno, che sarà pubblicato entro il primo trimestre 2021.

Il punto fermo è creare un quadro regolamentare equilibrato. Evitare regole eccessive che frenino l’innovazione. Ci focalizzeremo quindi su applicazioni che sono ad alto rischio sui nostri diritti fondamentali e sicurezza. Queste applicazioni vogliamo che abbiano una sorta di certificazione, prima che siano sul mercato, per ridurre al minimo gli effetti negativi.

Ad esempio: dispositivi medici, robot industriali, giocattoli, auto a guida autonoma. Tutti i prodotti di settori già sottoposti a controlli dovranno avere controlli sull’eventuale AI inclusa.

Vorremmo che si sviluppino standard per questi controlli. Sarà importante analizzare anche i dataset di training. Gli sviluppatori devono pubblicarne le caratteristiche e i parametri usati per l’algoritmo. Obiettivo: evitare bias, alti tassi di errore. E rendere queste informazioni chiare all’utente. Andrà chiarito anche se l’applicazione richiede una sorveglianza umana e di che tipo.

La sfida principale su questa strada è che ci sono tanti stakeholder diversi. In molti c’è la paura che se si regola troppo, l’AI sarà sviluppata altrove; il mercato europeo dell’innovazione ne sarà soffocato, e noi saremo solo consumatori di AI.

Con un doppio danno: per il nostro mercato europeo e perché ci troveremmo a usare AI che potrebbero non rispettare i principi europei posti a tutela dei diritti.

Stati membri in ordine sparso

Gli Stati membri hanno opinioni diverse a riguardo e alcuni stanno correndo su proprie regole. Ma sarebbe un problema averne diverse, andremmo a detrimento del mercato unico. Servono regole uniformi per sostenerlo.

Noi potremmo diventare sviluppatori forti di AI nei settori industriali dove siamo leader. Confidiamo che il Recovery Fund, di cui il 20 per cento deve andare al digitale, spinga le aziende a mettere l’AI nelle fabbriche.

La lettera dei 14 Paesi, che ha avuto diverse interpretazioni sui media, io la leggo così: non vogliono un eccessivo peso delle regole ma sono d’accordo che serva un controllo su applicazioni ad alto rischio. E vorrebbero un sistema di bollini, da noi indicato anche nel libro bianco, come quelli sui frigoriferi: chi segue certi principi potrà mettere sulla propria AI il bollino che è trustworthy.

Servirebbe anche per aumentare la reputazione internazionale dei prodotti Ue di AI e quindi sostenerne la competitività.

Ma secondo alcuni non è detto che sia un sistema esaustivo perché sarebbe volontario. La sfida è trovare la giusta misura tra regolare troppo e troppo poco.

Per quanto riguarda il nuovo quadro regolatorio abbiamo ora in corso una riflessione interna su cosa rendere obbligatorio e cosa volontario. Ciò che la Commissione europea deciderà non è ancora noto. Ci potrebbero ad esempio essere regole obbligatorie per servizi più rischiosi e volontarie per le altre. Il consiglio e il Parlamento potrebbero in ogni caso cambiare anche la proposta della UE. L’iter è lungo. Secondo me vi arriveremo in fondo solo nel 2022.

È una fase di grande cambiamento e potenziale accelerazione, per il ruolo dell’AI nelle nostre vite.

L’AI e la pandemia

L’AI ha partecipato in molti modi in questa pandemia, è servita ad esempio per accelerare le diagnosi covid-19 basate su immagini radiologiche. La stessa Commissione ha distribuito queste applicazioni agli ospedali. È usata per assistere la ricerca su molecole di farmaci e vaccini, tramite super computer. È usata anche per studi epidemiologici sull’andamento della pandemia. Entra nei robot ospedalieri. Ci sono studi secondo cui gli impatti socio economici della crisi sanitaria potrebbero accelerare automazione e AI. Speriamo sia così anche in Italia, ora ha i fondi del Recovery per riuscirci. L’AI può fare la differenza abbinata a robotica, sensoristica. Nelle fabbriche, nell’agricoltura. Ma persino anche nel turismo, duramente colpito dalla pandemia: può creare digital twin di operare, edifici, resi così accessibili a turisti stranieri che non possono venire di persona.

La pandemia secondo vari studi sta anche offrendo l’opportunità ad alcuni Paesi per restringere i diritti, anche con tecnologie di AI, per analisi di big data a scopo sorveglianza di massa e riconoscimento facciale. Noi per fortuna in Europa abbiamo una forte privacy e un’attenzione ai diritti. Anche per questo motivo, per allontanare questo spettro dal mondo, è importante che l’Europa si protagonista per uno sviluppo positivo di queste tecnologie, orientandole al bene comune.

WHITEPAPER
Cognitive Experience Center: ecco l'AI che può davvero supportare i tuoi operatori!
Intelligenza Artificiale
Networking
@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
Salute digitale
Formazione
Analisi
Sostenibilità
PA
Sostemibilità
Sicurezza
Digital Economy
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati