Intelligenza artificiale, il regolamento della Commissione UE: una sfida complessa | Agenda Digitale

la bozza

Intelligenza artificiale, il regolamento della Commissione UE: una sfida complessa

A quanto si conferma nella bozza attuale di regolamento, appena trapelata, l’Unione Europea vuole scongiurare gli effetti nefasti che l’Intelligenza Artificiale potrebbe produrre, favorendo – al contempo – il suo potenziale “positivo” per l’economia. Un equilibrio che sarà raggiunto con un confronto probabilmente complesso

15 Apr 2021
Luigi Mischitelli

Privacy & Data Protection Specialist at IRCCS Casa Sollievo della Sofferenza

La Commissione Europea ha varato una bozza di Regolamento sull’intelligenza artificiale (Regulation on European Approach for Artificial Intelligence) che sta già provocando alcuni effetti nel settore a livello globale.

La bozza, trapelata da Politico Europe il 14 aprile 2021, sarà presentata ufficialmente dalla Commissione Europea mercoledì 21 aprile. In soldoni, l’Unione Europea vuole scongiurare tutti (o quasi) gli effetti nefasti che l’Intelligenza Artificiale potrebbe produrre, favorendo – al contempo – il suo potenziale “positivo” per l’economia europea e mondiale, sostenendo la fiducia dei cittadini nell’innovazione.

Secondo la bozza, la Commissione Europea vieterebbe in toto alcuni utilizzi “ad alto rischio” dei sistemi di Intelligenza Artificiale, limitando – nel mentre – l’entrata in blocco di altri sistemi che non soddisfano gli “standard europei”.

Le aziende che non si conformassero a tale Regolamento potrebbero essere multate fino a 20 milioni di euro o fino al 4% del loro fatturato globale annuo; e qui ci si accorge di una certa “assonanza” con il sistema sanzionatorio del GDPR (Regolamento UE 2016/679).

Intelligenza Artificiale, le priorità normative Ue: focus su diritti, sicurezza e trasparenza

L’importanza del regolamento AI dell’Europa

È ancora una bozza e il testo definitivo può essere diverso. Ciò che è certo, è che tale Regolamento sull’Intelligenza Artificiale sarà il primo del suo genere a disciplinare compiutamente tale tecnologia, sottoponendola all’ombrello normativo dell’Unione Europea. Si desume che Bruxelles non voglia “lasciare libere” le potenti aziende tecnologiche statunitensi né voglia seguire la strada della Repubblica Popolare Cinese nell’utilizzo della tecnologia in esame per fini di sorveglianza.

DIGITAL EVENT, 16 GIUGNO
Identità digitale e business experience? Ecco le strategie più innovative

La terza via europea figura, piuttosto, come “umano-centrica”, in grado di sfruttare l’Intelligenza Artificiale non inficiando i diritti umani (a partire dalla protezione dei dati personali). Fatta questa premessa, è ancora più semplice dedurre che i sistemi di Intelligenza Artificiale “benvenuti in Europa” saranno – tra gli altri – quelli che semplificheranno la produzione industriale, che monitoreranno il cambiamento climatico e quelli che si occuperanno di rendere più efficiente la rete energetica.

Ci si chiede che fine faranno tutte quelle tecnologie, attualmente in uso in Europa, come gli algoritmi utilizzati per analizzare i curriculum vitae, quelli utilizzati per fare valutazioni di affidabilità creditizia, per distribuire benefici sociali, domande di asilo e visti, ovvero aiutare i giudici a prendere decisioni…

Per la commissione sono esempi di applicazioni ad alto rischio che richiedono una valutazione d’impatto. Come quello previsto dal Gdpr per il trattamento dati.

Le applicazioni vietate

Ma altri usi sono vietati dall’Europa ora. Ad esempio, i “sistemi di punteggio sociale” – come quelli presenti nella Repubblica Popolare Cinese –, che tracciano l’affidabilità delle persone e delle imprese, sono classificati a priori come “contrari ai valori dell’Unione Europea” e saranno vietati. Ma anche quelli di sorveglianza di massa.

La proposta europea vuole vietare l’utilizzo di quei sistemi di Intelligenza Artificiale:

  • che causano danni alle persone manipolando il loro comportamento, le loro opinioni e le loro decisioni;
  • che sfruttano e prendono di mira le vulnerabilità delle persone;
  • nonché quelli che mirano alla sorveglianza di massa.

Tuttavia vi sono debite eccezioni, ad esempio quando un’autorità deve utilizzare l’Intelligenza Artificiale per il contrasto di gravi crimini.

Riconoscimento facciale, sicurezza e AI

L’uso della tecnologia di riconoscimento facciale in luoghi pubblici, per esempio, potrebbe essere consentito con debite limitazioni “spazio-tempo”, ossia con limitazioni geografiche (un dato luogo) e di “arco temporale” (limitato ad ore-giorni-mesi).

La Commissione Europea, facendo un esempio, ha dichiarato di poter permettere l’utilizzo dell’Intelligenza Artificiale nei casi in cui le forze dell’ordine utilizzino la tecnologia di riconoscimento facciale, dalle telecamere a circuito chiuso, per il contrasto ad attività terroristiche.

L’eccezione è stata (probabilmente) progettata per “placare” paesi come la Francia, da un lato desiderosa di integrare l’Intelligenza Artificiale nel suo apparato di sicurezza; e dall’altro “assediata” dai “falchi della privacy” e dagli attivisti dei diritti digitali che fanno continua pressione sull’Eliseo nell’ottica di vietare del tutto utilizzi del genere. Tuttavia, è certo che lasciare zone grigie all’interno del futuro Regolamento allargherebbe di molto il potere discrezionale delle singole autorità nazionali, portando – potenzialmente – a danni e abusi diffusi.

Va detto comunque che “l’identificazione biometrica a distanza” nei luoghi pubblici richiederà il regime autorizzatorio più forte, tra quelli previsti per le tecnologie “ad alto rischio”. Ossia “procedure più rigorose di valutazione della conformità attraverso il coinvolgimento di un organismo notificato”; una “procedura di autorizzazione che affronta i rischi specifici impliciti nell’uso della tecnologia” e che include una valutazione obbligatoria dell’impatto sulla protezione dei dati.

Pregiudizi razziali e di genere

Vi è da dire che l’Unione Europea è anche desiderosa di evitare questioni che determinino pregiudizi razziali e di genere (i cosiddetti “bias” dell’Intelligenza Artificiale), che hanno afflitto (e continuano ad affliggere) lo sviluppo della tecnologia in esame fin dalla sua “nascita”. Uno dei requisiti su cui fa perno la Commissione Europea nella bozza di Regolamento è che i dataset non “incorporino alcun pregiudizio intenzionale o non intenzionale” che possa portare alla discriminazione etnica o di genere.

Un consiglio europeo per l’IA

La bozza propone anche di creare un “Consiglio Europeo per l’Intelligenza Artificiale”, che comprenda un rappresentante per ogni paese dell’Unione Europea, l’autorità di protezione dei dati dell’Unione Europea (EDPS) e un rappresentante della Commissione Europea. Tale Consiglio supervisionerebbe l’applicazione della normativa e varerebbe le best practices del settore (probabilmente mediante linee guida).

Quali impatti

Detto ciò, è palese che il mondo industriale si opporrà al Regolamento in esame, poiché (“ai loro occhi”) potrebbe rendere il mercato dell’Unione “meno attraente”, incoraggiando gli investitori e i produttori a puntare altrove. Un Regolamento che potrebbe persino mettere Bruxelles nel mirino dei suoi alleati…

Gli Stati Uniti, che al momento sono molto più preoccupati di contrastare la Repubblica Popolare Cinese, e le cui aziende saranno probabilmente soggette al Regolamento (al pari di come succede con il GDPR), è probabile che faranno pressioni per un “allentamento” delle misure presenti nella bozza. Il tema della sorveglianza, peraltro, rimane uno dei punti chiave dell’Unione Europea quando si tratta di collaborazione transatlantica con gli Stati Uniti (es. in ambiente NATO).

Intervistato da Politico Europe, l’ex CEO Google Eric Schmidt, presidente della National Security Commission on Artificial Intelligence (NSCAI), ha affermato che la strategia dell’Unione Europea non avrà successo, perché la stessa entità sovrastatale del Vecchio Continente “non è abbastanza grande” per competere con i colossi del mondo tecnologico, e avrà bisogno di collaborare con gli Stati Uniti per tutte le questioni concernenti l’Intelligenza Artificiale.[1]

[1] Europe eyes strict rules for artificial intelligence. Politico Europe. https://www.politico.eu/article/europe-strict-rules-artificial-intelligence/

WHITEPAPER
Machine Learning nelle Telco: 3 applicazioni chiave per l’Intelligent Assurance
Intelligenza Artificiale
Telco
@RIPRODUZIONE RISERVATA

Articolo 1 di 4