il punto

Se l’algoritmo è razzista: quali misure e norme a tutela dei soggetti deboli

Sempre più casi di sistemi di intelligenza artificiale che discriminano donne, neri, soggetti deboli. Contro questi rischi devono intervenire i governi, mettendo in atto strategie, misure e policy valide su tutti gli stakeholder. Sviluppatori compresi

17 Dic 2019
Marina Rita Carbone

Consulente privacy

algoritmi

Gli algoritmi sono creati da uomini e proprio per questo trascinano con sé, persino esasperandole, le discriminazioni, le disparità di trattamento e le contraddizioni proprie della società che rappresentano.

C’è tuttavia un modo per garantire, per quanto possibile, la creazione di algoritmi “discrimination-free”, pur in assenza di linee guida condivise e nella pressoché totale indifferenza delle società hi-tech verso questi temi. E deve essere compito dei Governi intervenire, con una definizione legislativa e congiunta delle policy necessarie per colmare le attuali lacune.

Discriminazioni e algoritmi, gli ultimi casi 

Partiamo da un presupposto, prima di addentrarci nella nostra riflessione: la tecnologia non può discriminare, le persone sì: tutte le decisioni errate poste in essere dai sistemi informatici sono da imputarsi esclusivamente all’uomo ed alle modalità con le quali sono creati, dipendenti a loro volta da una generica “deficienza” legislativa ed etica nel campo delle tecnologie informatiche, dovuta alla rapida crescita e produzioni di nuovi prodotti IT, di cui i Legislatori non sono riusciti, negli ultimi anni, a tenere il passo.

WHITEPAPER
Mobilità sostenibile: una guida a progetti, incentivi e ruolo chiave di sharing e veicoli elettrici

E veniamo, ora, alla cronaca recente. Di recente sono emerse le discriminazioni causate dall’algoritmo creato da Apple per la propria Apple card: garantiva una linea di credito maggiore agli uomini.

Recentissima discussione è insorta, inoltre, con riguardo alla struttura dell’algoritmo regolante la sanità negli States: quest’ultimo, classificava i pazienti non secondo il grado di necessità delle cure o la complessità della malattia, bensì secondo il costo del trattamento. Ne consegue che, in una società gravata da note problematiche discriminatorie razziali, l’algoritmo, per due patologie assimilabili, massimizzava il risparmio elargendo minori cure ai pazienti di colore. La colpa dell’errore, tuttavia, non è da ricercarsi nell’algoritmo, come abbiamo già detto.

Come avviene la discriminazione

Ciò detto, come si crea la discriminazione all’interno di un algoritmo? Innanzitutto, come abbiamo già detto, dal contesto sociale nel quale lo stesso nasce e dagli sviluppatori che si occupano della sua realizzazione. Da tale contesto nasce l’algoritmo, al quale si chiederà di assegnare valori differenti a differenti gruppi di soggetti. È chiaro, a questo punto, il momento in cui il pregiudizio si insinua dentro al sistema corrompendone inevitabilmente il risultato: tutto ciò che può comportare una differenziazione, sebbene nella sola ottica di fornire un prodotto personalizzato, sia un raggruppamento per razza, sesso, religione, orientamento sessuale, può inevitabilmente accentuarsi, sfociando nelle decisioni discriminatorie che sono oggi oggetto di cronaca.

Anche evitare la classificazione dei dati potrebbe non essere una soluzione al problema: anche se l’algoritmo non conosce gli indicatori di gruppo, ben può l’errore ugualmente scaturire in un secondo momento dalla creazione automatica di variabili (“proxy”) derivanti dalle tipologie di dati elaborati (ce lo spiega bene Massimo Valeri, nel suo articolo “Decisioni automatizzate, quale difesa da chi ci discrimina via algoritmi”, cui si rimanda per ulteriori approfondimenti).

Come arginare, dunque, il problema? Sinora si è tentato di agire rendendo trasparenti gli indicatori di gruppo già nella fase di sviluppo degli algoritmi, in modo da consentire agli sviluppatori la più agevole individuazione di possibili errori già nella fase propedeutica all’elaborazione dei dati, “istruendo” l’algoritmo ad evitare i pregiudizi, per quanto possibile. Un’impresa non da poco, essendo, in termini pratici, quasi impossibile creare un sistema puro.

La posizione delle Authority

Non manca la presa di posizione sul tema di Antonello Soro, Presidente del Garante per la protezione dei dati personali, il quale ha recentemente messo in luce le criticità connesse all’utilizzo di algoritmi che possano costituire una limitazione dei diritti fondamentali, nel caso di specie con riferimento all’oscuramento della pagina del movimento delle “Sardine” e la conseguente contrazione del diritto alla libertà di espressione.

Sebbene il tema affrontato sia differente rispetto alle casistiche di cui si è finora discusso, avendo ad oggetto un aspetto ulteriore della discriminazione, ovvero la censura, l’intervento del Garante mostra come la linea di azione delle Authority sia indirizzata non tanto alla correzione “in corsa” degli errori degli algoritmi, bensì sulla riformulazione a monte delle policies aziendali, decise privatamente dalle società che producono software, regolanti l’utilizzo delle piattaforme e contenenti proprio quelle valutazioni che, a lungo andare comportano l’insorgere delle note vicende di cronaca. Tale atteggiamento punitivo, condiviso dalle Autorità europee, consolidatosi nei principi fondanti il GDPR e, negli ultimi anni, fatto proprio anche dalle Authority statunitensi, mira all’ottenimento “di una governance socialmente e giuridicamente sostenibile del mondo – altrimenti anomico più che anarchico – della rete. E questo, senza prescindere da una responsabilizzazione delle piattaforme che assuma come parametro non il profitto, ma la garanzia delle libertà e dell’eguaglianza”.

Tuttavia, resta solo uno dei tanti tasselli necessari per consentire l’effettivo superamento delle discriminazioni algoritmiche, ponendosi l’intervento delle Autorità garanti soltanto in un momento successivo alla creazione degli strumenti.

Come prevenire le discriminazioni: le policy

Svolte le dovute premesse, giungiamo dunque al succo della questione: lo sviluppo di un sistema informatico basato su decisioni automatizzate è tuttora molto complesso per i tecnici IT, ai quali allo stato si demanda l’intera responsabilità della creazione di sistemi informatici stessi e che, tuttavia, sono limitati dalla inesistenza di linee guida che possano regolarne l’operato, ferma restando l’impossibilità di creare sistemi “perfetti”. A ciò si aggiunga un generale disinteresse, da parte delle società, in merito alla creazione di policies etiche, nonché la scarsa trasparenza nei confronti dell’utenza, che non è resa partecipe delle modalità con le quali i propri dati sono elaborati.

Non può nemmeno configurarsi una mera azione ex post, essendo talvolta, come nel settore della Sanità, in gioco interessi primari che potrebbero comportare gravi danni per i soggetti, anche involontariamente, discriminati dagli algoritmi. È necessario, invece, che i Governi assumano un ruolo primario nella creazione di standard che, al pari di un codice di condotta, enuncino una serie di misure preventive tecniche, giuridiche e sociali che costituiscano le basi comuni, le fondamenta per uno sviluppo contenuto e consapevole delle tecnologie informatiche. Dello stesso parere Helga Nowotny, co-fondatrice dell’European Research Council (Erc), la quale sostiene che “occorre definire ciò che sarà socialmente accettabile, legalmente definito e riconosciuto, altrimenti il rischio è quello di ritrovarci una tecnologia gestita male, fuori controllo e che può essere addirittura dannosa”.

L’azione congiunta di governi, utenti e società IT, dovrebbe avere i seguenti obiettivi:

  • l’educazione del personale che sviluppa gli algoritmi, mediante il ricorso a soggetti specializzati in antidiscriminazione che possano istruire lo staff e gli esperti IT, aumentandone la consapevolezza e consentendo loro di identificare più agilmente e con metodo scientifico tutte le possibili variabili discriminatorie, nonché di creare dei set di dati che non riflettano alcuna pratica discriminatoria o trattamenti diseguali;
  • l’educazione dell’utenza, la quale a sua volta contribuisce all’apprendimento delle intelligenze artificiali tramite i contenuti che essa stessa pubblica: come detto, la tecnologia riflette la società, e necessita dunque di un impegno sociale da parte dei suoi stessi utilizzatori;
  • la creazione di policies governative a livello globale che, sulla base delle attuali leggi antidiscriminatorie, nonché delle normative inerenti alla tutela dei dati personali e la sicurezza digitale, enuncino i principi di classificazione e sviluppo degli algoritmi, garantendo anche alle società di operare entro dei confini sicuri, sinora non delineati ma di volta in volta determinati ex post, nella fase sanzionatoria.

Solo una definizione legislativa e congiunta, dunque, delle policies consentirà di superare la lacuna attualmente esistente in campo IT, dettando così delle normative etiche digitali più comprensibili e trasparenti e permettendo il dialogo tra sviluppatori e legislatori, in un campo tanto delicato quanto necessario, in virtù dell’inevitabile crescita tecnologica e interdipendenza informatica della nostra società.

@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
Salute digitale
Formazione
Analisi
Sostenibilità
PA
Sostemibilità
Sicurezza
Digital Economy
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati