i principi

Intelligenza artificiale etica: ecco l’approccio “globale” Unesco (approvato anche dalla Cina)

Tutti i 193 Stati membri (Cina compresa) hanno approvato le raccomandazioni Unesco per un’intelligenza artificiale che protegga e promuova i diritti umani e le libertà fondamentali dell’uomo. Un passo avanti importante verso la risoluzione di uno dei problemi più discussi di questa tecnologia

17 Dic 2021
Luigi Mischitelli

Privacy & Data Protection Specialist at IRCCS Casa Sollievo della Sofferenza

Passata un po’ in sordina come notizia, la decisione[1] dell’Unesco – organizzazione in seno alle Nazioni Unite che tutela l’educazione, la scienza e la cultura – in materia di Intelligenza Artificiale “etica” rappresenta un notevole passo in avanti verso la risoluzione di uno dei problemi atavici che affliggono questa tecnologia. La decisione Unesco punta a realizzare i vantaggi connessi all’intelligenza artificiale con la riduzione, al contempo, dei rischi per i diritti umani (i pregiudizi o “bias” che la caratterizzano).

Le raccomandazioni, adottate lo scorso 25 novembre da tutti i (ben) 193 stati membri, affrontano principalmente questioni intorno a trasparenza, responsabilità, sorveglianza, protezione dei dati, ambiente, e sistema di credito sociale (o social scoring). Tali raccomandazioni hanno rilevato la necessità per i governi e le aziende tecnologiche di implementare soluzioni di intelligenza artificiale che proteggano e promuovano i diritti umani e le libertà fondamentali dell’uomo.

AI e dati, è caos etico: serve una metodologia standard

I principi dell’etica nell’AI delineati da Unesco

La decisione dell’Unesco delinea alcuni principi “propulsori” dell’etica nell’Intelligenza Artificiale, sostenuti da azioni politiche concrete su come possono essere sviluppati ed implementati.

WHITEPAPER
Sanità: quali le applicazioni di AI in radiologia, oncologia e cardiologia?
Intelligenza Artificiale
Sanità
  • Equità e non discriminazione. L’equità implica la condivisione dei benefici delle tecnologie di Intelligenza Artificiale a livello locale, nazionale e internazionale, considerando le esigenze specifiche delle diverse categorie di popolazione emarginate e vulnerabili.
  • Sostenibilità. Le tecnologie di Intelligenza Artificiale devono essere continuamente valutate per il loro impatto sociale, culturale, economico e ambientale.
  • Privacy. È necessario rispettare la sfera privata degli individui così com’è necessario proteggere i loro dati personali: tali dati devono essere raccolti, condivisi, archiviati e cancellati in modo etico. Il documento Unesco chiede anche la protezione dei dati attraverso meccanismi normativi dei singoli stati istituiti da organismi di regolamentazione. Inoltre, l’Unesco chiede che i sistemi di Intelligenza Artificiale debbano essere sottoposti a valutazioni di impatto sulla protezione dei dati personali (a mo’ di Art. 35 del Regolamento UE 2016/679), con opportune considerazioni sociali ed etiche.
  • Sicurezza e protezione. È necessario difendere i sistemi di Intelligenza Artificiale da danni e vulnerabilità agli attacchi, i quali dovrebbero essere evitati sviluppando un migliore addestramento dei modelli di Intelligenza Artificiale.
  • Trasparenza e “spiegabilità”. La trasparenza assicura il rispetto dei principi dei diritti umani, mentre la “spiegabilità” punta a rendere intelligibili i risultati al sistema di Intelligenza Artificiale (e all’uomo).
  • Responsabilità e Accountability. Tali principi puntano all’imputabilità di una determinata condotta dell’Intelligenza Artificiale verso determinate persone fisiche.
  • Consapevolezza e alfabetizzazione. La consapevolezza nonché la comprensione pubblica delle tecnologie di Intelligenza Artificiale ed il valore dei dati, devono essere promossi attraverso un’educazione aperta e accessibile a tutti. Per esempio, la raccomandazione Unesco promuove fortemente l’uso di “valutazioni di impatto etico” come modo innovativo per assicurare che gli sviluppatori e i distributori della tecnologia in esame tengano conto del più ampio impatto socio-economico dei loro sistemi, anche in termini di protezione dei dati e dei diritti umani. L’Unesco chiede agli Stati membri di attuare forti meccanismi di applicazione nonché azioni correttive in modo che qualsiasi danno causato da un sistema di Intelligenza Artificiale possa essere efficacemente affrontato.

AI “etica”: l’importanza di un quadro normativo globale

Gabriela Ramos on how to build the rule of law in the digital world (short version)

La raccomandazione Unesco delinea anche come i sistemi di intelligenza artificiale dovrebbero e non dovrebbero essere impiegati. L’organizzazione delle Nazioni Unite in esame consiglia agli Stati membri di introdurre incentivi per garantire lo sviluppo e l’adozione di soluzioni basate sui diritti nonché per l’adozione di soluzioni etiche che riducano fortemente il rischio di disastri. Fondamentale, inoltre, è il monitoraggio, la protezione e la rigenerazione dell’ambiente e degli ecosistemi: tutti obiettivi improntati alla conservazione del pianeta.

L’Unesco punta fortemente alla tutela dell’ambiente, la quale passa anche per “soluzioni etiche”. Per l’Unesco i sistemi di intelligenza artificiale dovrebbero coinvolgere la partecipazione delle comunità locali per tutto il ciclo vitale di tale tecnologia (dalla creazione alla dismissione), sostenendo al contempo approcci e modelli di consumo e produzione sostenibili.

Inoltre, tali sistemi di intelligenza artificiale non devono essere utilizzati per scopi di sorveglianza di massa. La raccomandazione Unesco ha inoltre sottolineato che quando si sviluppano quadri normativi preordinati ad inibire la sorveglianza di massa, gli stati membri devono garantire che la responsabilità ultima sia sempre di un essere umano (si pensi ai principi di Responsabilità e Accountability), e che nessuna tecnologia di Intelligenza Artificiale debba essere associata a mere responsabilità “giuridiche”. In definitiva, per l’Unesco tali raccomandazioni per un’intelligenza artificiale etica rappresentano una risposta importante che stabilisce il primo quadro normativo globale, dando agli stati membri la responsabilità (e l’opportunità) di applicarlo al loro livello “di granularità”.

AI etica: aderisce anche la Cina

Va notato che la decisione dell’Unesco è stata approvata anche dalla Cina, segnando una sorta di “impercettibile” cambio di corso per il Dragone Rosso. In poche parole, è la prima volta che la Cina accetta di porre un limite alla sorveglianza di massa pervasiva e alimentata dall’Intelligenza Artificiale in un consesso internazionale. Raccomandazione firmata su base volontaria, peraltro. Ma una firma (che, ovviamente, non porterà a conseguenze nell’immediato) è pur sempre una firma. Un atto che potrebbe essere letto anche in seno ad una sorta di “attrazione gravitazionale” che vi è tra Pechino e Bruxelles, con entrambi i contendenti che “cercano la quadra” sull’aspro terreno dell’Intelligenza Artificiale applicata al campo etico (si pensi al redigendo Regolamento UE sull’Intelligenza Artificiale)[2].

Africa: nuove tecnologie per la sorveglianza illegale dei cittadini

Ma mentre i fari sono puntati sulla sfida a tre – tra USA, UE e Cina – altri paesi seguono altrettanti corsi ben poco “etici” in materia di Intelligenza Artificiale. Lo scorso ottobre 2021, l’Institute of Development Studies (IDS) e l’African Digital Rights Network (ADRN) hanno pubblicato un’analisi comparativa[3] delle leggi e delle pratiche di sorveglianza di sei paesi africani (firmatari della raccomandazione Unesco): Egitto, Kenya, Nigeria, Senegal, Sudafrica e Sudan. È stato scoperto che i governi di questi paesi utilizzano ed investono in nuove tecnologie digitali per effettuare una sorveglianza illegale dei cittadini, compresa la sorveglianza sulla rete Internet basata sull’Intelligenza Artificiale, con tale tecnologia impiegata per analizzare le comunicazioni elettroniche dei cittadini. La sorveglianza di massa è stata effettuata anche da altri membri dell’Unesco, tra cui il Regno Unito, la cui agenzia di sicurezza, di spionaggio e controspionaggio GCHQ è stata scoperta[4] ad analizzare illegalmente le registrazioni telefoniche, internet e di posta elettronica dei cittadini britannici nell’ambito di un accordo segreto con la sua controparte americana, la National Security Agency (NSA). Mentre la GCHQ non ha formalmente confermato esattamente come utilizza l’Intelligenza Artificiale, la stessa ha al contempo affermato che l’Intelligenza Artificiale potrebbe essere utilizzata in modo responsabile per proteggere la sicurezza nazionale del Regno Unito, pur non menzionando il suo utilizzo nel campo della sorveglianza. [5]

Note

  1. UNESCO member states adopt the first ever global agreement on the Ethics of Artificial Intelligence. UNESCO. https://en.unesco.org/news/unesco-member-states-adopt-first-ever-global-agreement-ethics-artificial-intelligence
  2. Si veda questo interessante articolo. Can China and Europe find common ground on AI ethics? World Economic Forum. https://www.weforum.org/agenda/2021/11/can-china-and-europe-find-common-ground-on-ai-ethics/
  3. Illegal state surveillance in Africa ‘carried out with impunity’. Computer Weekly. https://www.computerweekly.com/news/252508766/Illegal-state-surveillance-in-Africa-carried-out-with-impunity
  4. GCHQ bulk interception programme breached privacy rights, Strasbourg court rules. Computer Weekly. https://www.computerweekly.com/news/252501356/GCHQ-bulk-interception-programme-breached-privacy-rights-Strasbourg-court-court-rules
  5. Unesco member states adopt AI ethics recommendation. Computer Weekly. https://www.computerweekly.com/news/252510287/Unesco-member-states-adopt-AI-ethics-recommendation
@RIPRODUZIONE RISERVATA

Articolo 1 di 2