Quando navighiamo sui siti web, come piattaforme di e-commerce o di streaming, è frequente che ci vengano mostrati anche prodotti e contenuti che troviamo di nostro interesse, benché non siano stati oggetto di una specifica ricerca da parte nostra.
Ciò è opera dei cosiddetti algoritmi di raccomandazione che sfruttando tecniche di intelligenza artificiale, quali il machine learning, sono in grado di filtrare rapidamente e automaticamente i contenuti, in modo che ciascun utente riceva suggerimenti personalizzati.
Algoritmi di raccomandazione, il lato oscuro: così incentivano la disinformazione
L’intelligenza artificiale fondata su algoritmi offre, quindi, un’esperienza individuale grazie alla raccolta e all’utilizzo di dati, di informazioni e caratteristiche, anche anagrafiche, dell’user.
I vantaggi per i fornitori di beni e servizi sono evidenti: ciò che viene presentato grazie all’algoritmo rispecchia maggiormente le esigenze dell’user e ne orienta le scelte, influenzandone anche il relativo comportamento commerciale.
Oltre agli indubbi benefici collegati alle applicazioni di IA in vari settori, sono state messe in luce le esigenze di tutela degli utenti dalle nuove insidie che possono celarsi dietro all’impiego di algoritmi, spesso di difficile identificazione.
L’utilizzo sleale di meccanismi di intelligenza artificiale può essere infatti fonte di disinformazione – si pensi alle fake news veicolate tramite social network ed alimentate da algoritmi che ne aumentano la visibilità – fino a provocare effetti negativi anche sulla salute mentale, specialmente se utilizzati per incentivare forme di violenza.
La Cina pioniera nella regolazione degli algoritmi
In considerazione dei rischi, la Cina, paese all’avanguardia per tech e digitalizzazione, è stato anche uno dei primi Stati ad avere regolato gli algoritmi, introducendo una sorta di censimento.
Internet Information Service Algorithmic Recommendation Management Provisions
Con un provvedimento entrato in vigore il primo marzo 2022 (Internet Information Service Algorithmic Recommendation Management Provisions) il governo cinese ha infatti introdotto una disciplina stringente non solo a tutela del consumatore, ma anche a salvaguardia della sicurezza nazionale e degli interessi pubblici, che si ritiene transitino tutti attraverso uno sviluppo sano di internet ed anche etico.
Il provvedimento si applica a qualsiasi soggetto che faccia uso di algoritmi di raccomandazione nell’ambito di servizi di informazione online sul territorio cinese, ma di fatto è rivolto principalmente alle “big tech”.
Chi implementa tali tecnologie è gravato da una serie di obblighi così come agli utenti vengono attribuiti diritti, tra cui il diritto all’informazione in merito ai principi alla base degli algoritmi, agli scopi ed alle modalità operative degli stessi, il diritto di rinunciare all’operatività dell’algoritmo e quindi di disattivarlo, così come a non essere discriminati.
Il contrasto verso un impiego eccessivo e distorto degli algoritmi è quindi uno degli obiettivi della nuova regolazione. Si pensi ad esempio a quegli algoritmi che permettono di operare una distinzione di prezzo tra i vari utenti in base alle abitudini di consumo di ciascuno di essi o ancora a quei sistemi che operano differenziazioni in base all’età del pubblico.
Viene peraltro dedicata particolare attenzione anche alla tutela di anziani e minori operativi in rete, delle cui caratteristiche deve essere tenuto conto.
Dall’altro lato, la Cyberspace Administration of China ha sottoposto a incisivi controlli gli algoritmi sul mercato, per cui le big tech sono state costrette a trasmettere informazioni e dettagli dei propri algoritmi, anche dal punto di vista operativo.
L’ente regolatore della sicurezza informatica ha quindi passato al vaglio i principali algoritmi, verificando la presenza di eventuali rischi o violazioni nei confronti dei consumatori.
Per la violazione sono previste sanzioni: qualora i fornitori di servizi di raccomandazione non apportino le correzioni richieste dall’autorità a fronte di quanto rilevato, può essere ordinata la sospensione così come la condanna al pagamento di una somma di denaro.
La linea risk oriented dell’Unione Europea
Se la risposta cinese alla diffusione degli algoritmi è stata letta come un tentativo di controllo in campo tecnologico da parte del Governo, considerando anche la natura di segreto commerciale che viene attribuita alle informazioni alla base degli algoritmi ed a cui hanno avuto accesso le autorità, gli interventi dell’Unione Europea si collocano in una differente direzione.
Naturalmente, come nel resto del mondo, anche a livello comunitario è progressivamente aumentata l’attenzione verso i sistemi di intelligenza artificiale, che sono andati incontro ad applicazioni sempre più ampie nell’attuale contesto di digitalizzazione.
Proseguendo in un progetto avviato già da qualche anno, che nel 2019 ha visto la pubblicazione da parte della Commissione Europea di orientamenti etici per lo sviluppo e l’utilizzo dell’intelligenza artificiale, redatti da un gruppo di esperti, il 4 aprile 2021 è stata presentata una proposta di regolamento europeo sull’intelligenza artificiale.
Alla base del regolamento, vi è la necessità di assicurare che lo sviluppo di tecniche di IA non proceda incontrollato, bensì secondo trasparenza e nel rispetto dei diritti fondamentali.
Come visto, gli algoritmi sfruttano le informazioni degli utenti e sono in grado perciò di orientarne i comportamenti. Tuttavia, non tutti i dati sfruttati dagli algoritmi possono considerarsi “dati personali”, quindi la proposta di regolamento non muove solo dalla volontà di tutelare la privacy degli utenti, già demandata al GDPR, ma anche da quella di promuovere la protezione di tutti gli altri diritti sanciti dalla Carta di Nizza, quali la dignità umana, la non discriminazione e parità di genere, la libertà di espressione, fino ricomprendere anche la tutela dell’ambiente.
Infatti, occorre evitare che negli algoritmi vengano inserite distorsioni di genere o sociali; inoltre, algoritmi sofisticati possono rendere difficoltosa l’individuazione di contenuti falsi, incidendo negativamente sulle libertà di espressione e pensiero.
In particolare, il regolamento ha i seguenti obiettivi:
- assicurare che i sistemi di IA sul territorio comunitario siano sicuri e rispettino la normativa vigente in materia di diritti fondamentali così come i valori dell’Unione;
- assicurare la certezza del diritto per facilitare gli investimenti e l’innovazione nell’intelligenza artificiale;
- migliorare la governance e l’applicazione effettiva delle norme già esistenti in materia di diritti fondamentali così come i requisiti di sicurezza applicabili ai sistemi di intelligenza artificiale;
- facilitare lo sviluppo di un mercato unico per applicazioni di IA lecite, sicure e affidabili nonché prevenire la frammentazione del mercato.
L’Unione Europea ha adottato un approccio cosiddetto risk based, in quanto l’individuazione della disciplina applicabile muove dall’individuazione del livello di rischio a cui sono esposti i diritti fondamentali.
Si ritiene infatti che un tale meccanismo possa assicurare lo sviluppo delle tecniche di IA sicure e rispettose dei diritti.
