soluzioni regolatorie

Il senso delle città per l’intelligenza artificiale: da NY ad Amsterdam, le iniziative più interessanti

Al tentativo di costruire un sistema normativo dell’intelligenza artificiale omogeneo sul piano internazionale si affianca un differente approccio regolatorio territorialmente più circoscritto messo a punto da alcune città. Una ricognizione delle sperimentazioni regolatorie più innovative in un’ottica di etica e sicurezza

19 Mag 2022
Angelo Alù

PhD, Consigliere Internet Society Italia, saggista e divulgatore digitale

city-5772040_1920

L’impatto generale dell’intelligenza artificiale rende centrale la necessità di predisporre un quadro di regolamentazione adeguato a formalizzare la rilevanza di tale tecnologia.

Da una ricognizione effettuata dal Wall Street Journal emerge tuttavia come sia a livello locale che si debbano ricercare le iniziative regolatorie più interessanti, in grado di assicurare il corretto funzionamento di sistemi tecnologici utilizzati nell’implementazione innovativa dei servizi pubblici erogati alla collettività.

In considerazione dei potenziali benefici offerti dalle tecnologie emergenti, proprio alla luce delle criticità che manifestano i sistemi decisionali automatizzati sempre più pervasivi nella vita delle persone, risulta quindi centrale, nel processo di elaborazione delle politiche predisposte dalle città, la necessità di garantire il rispetto di standard sicuri ed etici, soprattutto a tutela della privacy e della sicurezza, al fine di promuovere l’utilizzo di algoritmi trasparenti e imparziali senza il rischio di provocare effetti discriminatori e pregiudizi su larga scala a causa di un processo decisionale opaco e insidioso.

Il registro degli algoritmi di Amsterdam

Entrando nel dettaglio dell’indagine realizzata dal citato articolo, viene menzionato, ad esempio, il registro degli algoritmi creato – ancora in una versione beta sperimentale – dalla città di Amsterdam (e sulla falsariga dell’esperienza olandese anche dalla città di Helsinki), mediante una procedura standardizzata documentata e sempre tracciabile ispirata alla metodologia interattiva della democrazia partecipativa fondata sul dialogo collaborativo pubblico-privato, per fornire agli utenti una panoramica generale e completa dei sistemi di intelligenza artificiale utilizzati nel processo di sviluppo, implementazione, gestione e smantellamento degli algoritmi. Il progetto offre altresì informazioni dettagliate sugli utilizzi applicativi dell’IA, anche con la possibilità di partecipare attivamente alla progettazione di nuovi sistemi implementati per migliorare l’accessibilità e l’esperienza dei servizi della città, nonché per ottimizzare il processo decisionale del settore pubblico. L’obiettivo perseguito dalle istituzioni olandesi mira a garantire il rispetto di una serie di principi etici a presidio delle persone, sull’assunto che gli algoritmi utilizzati nell’ambito delle previste attività, ben oltre i risvolti prettamente tecnologici, siano comunque soggetti alle regole generali prescritte per l’erogazione di qualsivoglia servizio pubblico. Da ciò discende la necessità di assicurare l’attuazione di standardizzazioni tecniche in grado di garantire la protezione delle libertà fondamentali per evitare il pericolo di discriminazioni pregiudizievoli al corretto esercizio dei diritti individuali.

WHITEPAPER
[White Paper] TEST più semplici e completi per i tuoi software: l'AI fa la differenza
Automotive
Intelligenza Artificiale

Pertanto, strumentale al raggiungimento delle sopraindicate esigenze di tutela configurabili in un sistema democratico evoluto e moderno, è il riconoscimento, sotteso all’istituzione del predetto registro degli algoritmi, di un generale diritto di accesso alle informazioni comprensibili e aggiornate su come gli algoritmi influenzano i comportamenti umani secondo adeguati standard di trasparenza che consentano di progettare lo sviluppo applicativo di sistemi di IA affidabili.

La normativa della città di New York

Emblematica anche la legge approvata dalla città di New York (che entrerà in vigore, con effetto posticipato, a partire dal primo gennaio 2023), la cui disciplina prescrive, a pena di sanzioni irrogate in caso di violazioni, l’adozione di una preliminare attività di audit sugli strumenti decisionali automatizzati utilizzati dai datori di lavoro e dalle aziende. In particolare, la normativa risulta applicabile a qualsiasi processo computazionale statistico, elaborato anche in apprendimento automatico, per la selezione di candidati e dipendenti da assumere in sede di reclutamento lavorativo a fini di valutazione dei relativi curricula, con l’intento di ridurre il rischio di pregiudizi e discriminazioni basati su fattori etnici, razziali e sessuali codificati nella classificazione dei relativi profili individuati durante le procedure di preassunzione occupazionale. In attuazione di tali obiettivi, è prescritto l’obbligo di conservare, nel rispetto del principio di trasparenza, tutte le informazioni sul tipo di dati raccolti per gli strumenti decisionali automatizzati utilizzati affinché le predette informazioni siano disponibili, su richiesta, ai lavoratori interessati, legittimati altresì a rifiutarne il trattamento, che in ogni caso devono essere preventivamente resi edotti circa le modalità applicative concrete predisposte prima di qualsivoglia uso effettivo di tali strumenti.

Il Global Observatory of Urban Artificial Intelligence (GOUAI)

Particolarmente rilevante, in un’ottica di cooperazione multilaterale transnazionale, è anche il Global Observatory of Urban Artificial Intelligence (GOUAI): si tratta di un’iniziativa lanciata da alcune città della City Coalition for Digital Rights (CC4DR) con il compito di monitorare le politiche predisposte in materia di IA, nonché elaborare e aggiornare gli standard tecnici esistenti, mediante la creazione di modelli trasparenti e responsabili dell’IA urbana, previa identificazione delle criticità ostative all’implementazione di una tecnologia affidabile, considerando l’IA una “componente chiave delle attuali tendenze della digitalizzazione”.

Tra le recenti priorità dell’Osservatorio vi è la necessità di promuovere la realizzazione di una “governance etica degli algoritmi in un contesto municipale”: poiché le città sono le istituzioni democratiche più vicine alle comunità, per tale ragione esse risultano più adatte a promuovere e a difendere i diritti digitali, in collaborazione con le organizzazioni non governative, la società civile e il settore privato, anche mediante l’elaborazione di nuove politiche e regole applicabili allo spazio virtuale della Rete, come ecosistema sostenibile in grado di favorire la diffusione delle buone pratiche di IA nelle città grazie alla definizione di adeguati standard legali, etici e operativi finalizzati a garantire il rispetto dei diritti umani negli ambienti digitali. A tal fine, la Coalizione propone la definizione di standard etici minimi da utilizzare nello sviluppo tecnologico dell’IA, secondo concreti canoni di equità e non discriminazione, trasparenza, apertura, sicurezza, protezione della privacy, sostenibilità e responsabilità.

Implicazioni etiche dell’IA: l’iniziativa del Regno Unito

Peraltro, proprio seguendo tali coordinate di intervento nella valorizzazione delle implicazioni etiche connesse allo sviluppo sostenibile e proficuo dell’IA, può essere compresa la recente iniziativa del governo del Regno Unito volta, in sede di revisione degli standard tecnici IA, alla pubblicazione del documento “Ethics, Transparency and Accountability Framework for Automated Decision-Making” adottato in conformità alle linee guida generali del Data Ethics Framework, per garantire “un uso sicuro, sostenibile ed etico dei sistemi decisionali automatizzati o algoritmici” applicabili al settore pubblico, nel rispetto del rapporto del Consiglio d’Europa “Intelligenza artificiale e protezione dei dati: sfide e rimedi possibili” – e in attuazione dei Principi dell’IA OCSE, con l’obiettivo di contrastare la cd. discriminazione algoritmica provocata da processi decisionali automatizzati distorti da disuguaglianze sociali o storiche che influenzano la programmazione nella codifica di possibili pregiudizi inseriti nel funzionamento del sistema. Mediante la formulazione di informazioni chiare e comprensibili, il quadro UK di etica, trasparenza e responsabilità prescrive, ad esempio, la necessità di una preliminare valutazione di impatto, a fronte di eventuali criticità tecniche e/o difetti di sicurezza non rilevabili nei test di sperimentazioni, da cui discendono effetti discriminatori a discapito delle persone.

L’attivismo regolatorio dell’Unione europea

In tale prospettiva, stanno emergendo interessanti approcci differenziati nell’ambito di uno scenario regolatorio eterogeneo. Proliferano iniziative che registrano anche l’implementazione di piani definiti a livello locale dalle città, come ulteriore inedita azione d’intervento configurabile rispetto ai più noti modelli offerti dal panorama transnazionale, ove si riscontra – tra l’altro – il recente attivismo regolatorio dell’Unione europea impegnata a definire la cornice normativa applicabile all’IA, considerata una priorità della propria agenda politico-istituzionale già sulla base di quanto formalizzato nella Risoluzione del Parlamento europeo del 12 febbraio 2019 su una politica industriale europea globale in materia di robotica e intelligenza artificiale.

Proprio nell’ottica di gestire le opportunità e le minacce dell’IA, l’UE ha avviato un concreto processo di riforma legislativa culminata nella proposta di Regolamento europeo che stabilisce regole armonizzate sull’Intelligenza Artificiale recante, secondo le coordinate del Parlamento europeo, le “regole armonizzate per lo sviluppo, l’immissione sul mercato e l’utilizzo di sistemi di IA nell’Unione”. Si tratta di uno dei pilastri della generale strategia di sovranità digitale – definita in stretta connessione al “pacchetto” di interventi realizzati in materia di innovazione (Digital Services Act e Digital Markets Act, Direttiva UE “Copyright” 2019/790 e Regolamento UE 679/2016 – GDPR) – di cui l’Unione europea intende dotarsi.

Conclusioni

Al tentativo di costruire un sistema normativo omogeneo, unitario e non frammentato in grado di realizzare un processo di standardizzazione uniforme e organico sul piano internazionale (emblematica in tal senso anche la Global Partnership on AI ispirata alle linee guida indicate dalla Recommendation of the Council on Artificial Intelligence dell’OCSE) si assiste, pertanto, ad un differente approccio regolatorio territorialmente più circoscritto sperimentato da alcune città. L’Unione europea, intanto, entra nel vivo dell’iter procedurale destinato nei prossini anni a definire l’approvazione del testo finale della legge sull’Intelligenza Artificiale (in attuazione della strategia sull’IA, ad integrazione del Libro bianco sull’intelligenza artificiale e tenuto conto del Piano coordinato europeo sull’intelligenza artificiale), per formalizzare la propria visione in materia di IA alternativa al modello americano di soft law (definito secondo le coordinate tracciate dalla cd. “American AI Initiative”) e alla strategia centralizzata cinese (predisposta nel rispetto di quanto stabilito dal “New Generation of Artificial Intelligence Development Plan”).

@RIPRODUZIONE RISERVATA

Articoli correlati