le linee guida Ue

Decisori artificiali, l’importanza di sviluppare sistemi affidabili

Per realizzare sistemi di AI affidabili è importante seguire le linee guida delineate dall’High Level Expert Group Ue nel documento “Ethical Guidelines for a Trustworthy AI”, ma ancora siamo ben lontani. La potenzialità dei sistemi decisionali e il loro impatto è però tale da imporre una intensa attività di ricerca

01 Lug 2020
Michela Milano

Professoressa Ordinaria presso il Dipartimento di Informatica dell'Università di Bologna, Vice Presidente dell'EurAI, Membro di AIxIA e Direttrice Centro Interdipartimentale Alma Mater Research Institute for Human-Centered Artificial Intelligence — (Alma AI)

digitale

I sistemi di supporto decisionale con algoritmi sono stati sviluppati in numerosi settori industriali:

  • nella gestione dei processi produttivi, manutentivi e nella logistica,
  • nei servizi e nella gestione delle infrastrutture,
  • nelle cosiddette smart cities per la gestione della mobilità, dell’energia, dello sviluppo urbano, dell’ambiente, della sanità,
  • nel processo di decisione politica,
  • nella gestione delle catastrofi naturali,
  • nelle contromisure al terrorismo,
  • e, non ultima, nella gestione delle pandemie.

È evidente che in tutti questi domini, per costruire sistemi di supporto decisionale che siano efficaci, è necessario che gli esperti di dominio possano “fidarsi” delle decisioni suggerite. E perché questo avvenga servono linee guida etiche, che sono state sviluppate a livello europeo ma non ancora implementate. Facciamo il punto.

I modelli decisionali, cosa sono e come funzionano

I progressi degli ultimi anni nel campo dell’intelligenza artificiale riguardano principalmente il settore dell’apprendimento automatico (machine learning) in cui un sistema apprende un modello a partire dai dati.

WHITEPAPER
IoT Platform: trasforma le promesse del 4.0 in realtà
IoT
Integrazione applicativa

Tipicamente il modello appreso è in grado di descrivere il sistema da cui questi dati provengono (descriptive analytics), di diagnosticare le cause di ciò che è successo (diagnostic analytics) e di prevederne le dinamiche future (predictive analytics).

Ad esempio, dai dati che provengono da sensori installati in un impianto industriale è possibile analizzare se è avvenuto un guasto o il sistema lavora in regime sotto ottimo (tramite un modello descrittivo), definirne le cause (tramite un modello diagnostico) o prevedere se e quando questo guasto avverrà (tramite un modello predittivo). Come si evince dalla figura (Gartner, 2013) per arrivare a una decisione avendo a disposizione questi modelli, occorre una consistente dose di intervento umano. Ad esempio, avendo a disposizione un modello predittivo, possiamo usare la cosiddetta what-if analysis per valutare scenari decisionali, ma quando le scelte sono in numero elevato, questo metodo non risulta particolarmente efficace.

Per prendere decisioni serve un passo ulteriore: costruire un modello prescrittivo (prescriptive analytics), che contiene tipicamente variabili decisionali, le decisioni alternative, i vincoli che limitano l’ammissibilità di queste decisioni e possibilmente una o più funzioni obiettivo che determinano la bontà di uno scenario decisionale. Nel caso dei guasti di un impianto produttivo, un sistema decisionale sarebbe ad esempio in grado di definire degli interventi manutentivi sulla base delle previsioni di guasto, la loro collocazione temporale al fine di minimizzare il costo o ridurre il down-time. Si noti che mentre i sistemi di supporto decisionale aiutano i decisori nella scelta delle decisioni o nella definizione di scenari alternativi, i sistemi cosiddetti di “decision automation” implementano le decisioni direttamente sul sistema senza alcun intervento umano, ma in questo breve articolo ci concentriamo sui primi.

analytics_maturity1.png

L’integrazione dei modelli

Da sempre i modelli decisionali vengono costruiti tramite una costante interazione con gli esperti di dominio, che forniscono le specifiche sul problema e trasferiscono la propria conoscenza ed esperienza codificate sotto forma di regole e vincoli. Questo metodo, tuttora usato, ha principalmente due limitazioni: da una parte l’accuratezza di un tale modello, che come tutti i modelli è un’approssimazione della realtà, non è misurabile; inoltre, spesso esistono componenti del modello che non sono facilmente descrivibili da un esperto di dominio.

In questo momento, mai come ora, abbiamo a disposizione dati che possono essere utilizzati per estrarre modelli descrittivi e predittivi per integrare e completare i modelli decisionali. Sta proprio nell’integrazione di questi modelli che risiede la vera innovazione in questo settore. Gartner, in un rapporto del 2020, stima che per il 2022 tecniche di data analytics saranno utilizzate ovunque, ma solo il 10% utilizzerà il potenziale completo della data analytics. Ciò significa che, mentre i modelli descrittivi e predittivi saranno impiegati sempre più frequentemente, la loro integrazione in modelli decisionali trova ancora ampio margine di sviluppo e adozione.

Le linee guida etiche dell’Ue

Come abbiamo detto, per realizzare sistemi di cui gli esperti di dominio possano fidarsi, è importante seguire una serie di linee guida, delineate dall’High Level Expert Group nominato dalla Commissione Europea nel documento “Ethical Guidelines for a Trustworthy AI”. In questo documento, vengono definiti orientamenti per promuovere la definizione e lo sviluppo di sistemi di intelligenza artificiale che siano affidabili.

I principi su cui dovrebbero basarsi tali sistemi sono la legalità, ossia l’ottemperanza alle leggi e regolamenti applicabili, la robustezza tecnica e sociale e l’eticità, ossia l’adesione a principi e valori etici. Inoltre, il documento tratta come tali principi possono essere resi operativi in un sistema artificiale definendo sette requisiti: 1) intervento e sorveglianza umani, 2) robustezza tecnica e sicurezza, 3) riservatezza e governance dei dati, 4) trasparenza e l’esplicabilità, 5) diversità, non discriminazione ed equità, 6) benessere sociale e ambientale e 7) accountability.

Nel caso di sistemi decisionali possiamo dire che l’intervento e la sorveglianza umana siano garantite dal fatto che le decisioni devono essere avvallate da esperti di dominio che devono essere coinvolti fin dall’inizio nella definizione del progetto di questi sistemi, nella definizione dei requisiti per costruire sistemi robusti, sicuri e costruiti nel rispetto della privacy dei dati, e che comprendano le scelte effettuate dal sistema (trasparenza). La capacità dei sistemi decisionali di spiegare il proprio comportamento e i processi che sottendono le decisioni è oggetto di intensa attività di ricerca, soprattutto quando questi sistemi integrano modelli predittivi la cui capacità di spiegazione è ancora limitata.

Inoltre, è necessario essere in grado di garantire che i dati di partenza dai quali si estraggono modelli predittivi e decisionali non siano polarizzati. Tutti ricorderanno il sistema usato da Amazon un paio di anni fa che permetteva di selezionare i migliori curricula sulla base delle assunzioni degli ultimi 10 anni, discriminando così le donne in netta minoranza nel personale assunto nel periodo considerato.

Siamo ancora piuttosto lontani dalla capacità di costruire un sistema completamente aderente ai principi definiti dalle linee guida etiche definite dall’High Level Expert Group, ma la potenzialità dei sistemi decisionali e il loro impatto nel contesto applicativo è tale da imporci una intensa attività di ricerca. Come diceva lo zio di Peter Parker (alias Spiderman), “da un grande potere derivano grandi responsabilità” pertanto noi ricercatori dobbiamo lavorare per costruire sistemi artificiali che siano affidabili, sicuri e che portino impatti positivi sulla produttività, sulla razionalizzazione delle risorse di ogni genere e sul benessere e la salute dell’uomo.

Intelligenza artificiale, i punti sul tavolo per la strategia europea

@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
Salute digitale
Formazione
Analisi
Sostenibilità
PA
Sostemibilità
Sicurezza
Digital Economy
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articolo 1 di 4