Il paper

Sicurezza dell’intelligenza artificiale, progettazione e rischi correlati: le linee guida ETSI

Nel suo primo paper, il gruppo di standardizzazione Securing Artificial Intelligence dell’ETSI fornisce linee guida per migliorare l’approccio alla sicurezza dell’IA. Nel documento sono catalogati i principali tipi di rischio collegati a ciascuna fase di sviluppo e c’è un capitolo dedicato all’etica

16 Mar 2021
Danilo Benedetti

Security Solutions Architect

intelligenza artificiale digitale

Il gruppo di standardizzazione ETSI dedicato alla sicurezza dell’intelligenza artificiale[1] (Industry Specification Group – Securing Artificial Intelligence) ha rilasciato il suo primo paper sulla sicurezza dell’IA.

Con la nascita di questo gruppo, ETSI riconosce il ruolo sempre più ampio che l’intelligenza artificiale ha nelle nostre vite, grazie alla sua capacità di rivoluzionare il modo in cui interagiamo con la tecnologia, e alle sue potenzialità di migliorare la nostra qualità di vita e arricchire la sicurezza. In assenza di standard tecnici adeguati, l’IA ha però anche il potenziale per creare nuove minacce e peggiorare la sicurezza complessiva delle nostre società.

L’obiettivo del gruppo SAI è di fornire delle linee guida per migliorare l’approccio alla sicurezza dell’IA secondo tre assi:

  • Proteggere l’intelligenza artificiale dagli attacchi: in questo caso l’intelligenza artificiale è vista come componente di un sistema, e come tale necessitante di protezione;
  • Mitigazione contro l’uso dell’IA come strumento di attacco: in questo caso l’intelligenza artificiale è utilizzata per potenziare i vettori di attacco convenzionali o crearne di nuovi;
  • Utilizzo dell’intelligenza artificiale per migliorare le misure di sicurezza: l’IA viene utilizzata per potenziare la protezione dei sistemi contro gli attacchi, affiancando o sostituendo le contromisure convenzionali.

Il paper appena rilasciato si pone l’obiettivo di definire e delimitare il problema relativo alla sicurezza dell’IA, e nelle intenzioni del gruppo dovrebbe essere seguito da altri cinque argomenti:

  • Ontologia delle minacce, per allineare la terminologia.
  • Supply Chain dei dati, incentrata sui rischi relativi ai dati e alla fase di training.
  • Strategie di mitigazione, con le linee guida per mitigare gli impatti delle minacce all’IA.
  • Test della sicurezza per l’IA.
  • Il ruolo dell’hardware nella sicurezza dell’intelligenza artificiale.

La definizione del problema della sicurezza dell’IA secondo ETSI

ETSI riconosce che il termine intelligenza artificiale include un numero elevato di differenti tipologie di algoritmi, ma riconosce anche che, in questo momento, le tecnologie basate sull’apprendimento (supervisionato o meno) sono quelle che stanno incontrando il maggiore sviluppo e diffusione; per questo motivo il documento si concentra sulle tecniche di machine learning.

WHITEPAPER
Intelligent Business Process Automation: perché serve alle aziende
CIO
Cloud

Il primo passo per mettere “in sicurezza” questa tecnologia è esplicitarne la “catena di produzione”, che nel paper viene suddivisa in 8 fasi diverse, come rappresentato nel disegno.

ETSI considera la sicurezza delle fasi di realizzazione di sistemi di machine learning secondo l’ottica della “CIA Triad[2]” – Confidenzialità, Integrità e disponibilità dei dati e della piattaforma.

Nel documento sono catalogati i principali tipi di rischio collegati a ciascuna fase di sviluppo, riportati nella tabella sottostante per comodità del lettore.

FasePrincipale minaccia secondo ETSI
Raccolta datiIntegrità
Preparazione dei datiIntegrità
Progettazione del modelloProblemi non specifici
Implementazione softwareProblemi non specifici
TrainingConfidenzialità, integrità, disponibilità
TestDisponibilità
RilascioConfidenzialità, integrità, disponibilità
AggiornamentiIntegrità, disponibilità

Dopo questa sezione, che approfondisce il tipo di rischio caratteristici di ciascuna fase, il documento si sposta su terreni familiari per chi segue agendadigitale.eu, ovvero i problemi di progettazione e i fattori non intenzionali che possono comunque produrre comportamenti non attesi o dannosi del sistema di IA.

AI, il paradosso della legge come ostacolo o supporto: perché serve un nuovo approccio

Problemi di progettazione e fattori non intenzionali

Il primo di questi è il bias, ovvero la possibilità che i dati utilizzati per l’addestramento del sistema siano selezionati o manipolati in modo da produrre output allineati ad alcune ipotesi predeterminate (bias confermativo), oppure quando la selezione dei dati, effettuata su basi soggettive, si riflette in un insieme di dati di training che non riproduce accuratamente la popolazione (bias di selezione).

Accanto al bias ETSI considera anche la necessità di mitigare adeguatamente i problemi di underfitting e overfitting – che, rispettivamente, producono modelli “troppo semplici” o “troppo complessi” per il problema che si vuole risolvere – e il tema del trattamento degli outlier, ovvero quei valori molto fuori scala rispetto alla media della popolazione, la cui presenza nell’insieme dei dati di training può avere un impatto sproporzionato sulle decisioni del sistema IA.

È degna di nota la distinzione che gli autori fanno fra il bias “indesiderato” e quello che invece è parte delle specifiche di progetto: ad esempio, in un sistema di guida autonoma è probabilmente desiderabile che questo sia “polarizzato” per favorire comportamenti più cauti e meno rischiosi. Analogamente, il tema degli outliers può essere anch’esso considerato come un requisito, se si tratta di casi estremi (ma reali) il cui presentarsi può avere impatti molto importanti sul comportamento del sistema.

L’etica dell’IA

All’interno della trattazione dei problemi inerenti alla progettazione, è sicuramente interessante la presenza di un capitolo dedicato all’etica dell’IA, relativo in particolare all’uso dei dati, alla capacità – e opportunità – che un sistema di IA possa prendere decisioni che hanno impatti sulla vita delle persone e, infine, alla trasparenza che deve caratterizzare il funzionamento dell’IA.

ETSI infatti riconosce che, sebbene i temi etici non abbiano un’incidenza diretta sulle caratteristiche di sicurezza dei sistemi di IA, essi possono avere un effetto significativo sulla percezione di attendibilità del sistema da parte degli individui. Diviene quindi importante per i progettisti e gli sviluppatori dei sistemi di IA, considerare le sfide etiche all’interno della progettazione, affinché le persone che li useranno possano af-fidarsi ad essi. L’uso etico dell’IA costituisce uno degli aspetti del tema più generale relativo all’abuso dell’IA, in un continuum che muove dall’utilizzo della tecnologia per fini che possono produrre effetti indesiderati per gli utilizzatori / destinatari della stessa, fino al vero e proprio uso dell’IA come strumento per realizzare azioni illecite, come nel caso dei generatori di malware, i deepfake, la riproduzione della voce ecc.

AI e dati, è caos etico: serve una metodologia standard

Conclusioni

Dell’articolo sono interessanti anche le omissioni: almeno in questo primo documento, sono assenti i riferimenti all’intelligenza artificiale come “arma strategica”, come anche i riferimenti alla possibile nascita di sistemi senzienti, ostili all’uomo. Tutto sommato anche questo è un segno di maturità della tecnologia e della percezione che abbiamo di essa: uno strumento di progresso che va gestito per limitare gli effetti negativi che, come ogni altra tecnologia umana, la sua diffusione porta inevitabilmente con sé.

  1. https://www.etsi.org/technologies/securing-artificial-intelligence
  2. Confidentiality, Integrity, Availability.
@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati