Tutti i rischi del metaverso: sorveglianza, profilazione, controllo di massa - Agenda Digitale

l'analisi

Tutti i rischi del metaverso: sorveglianza, profilazione, controllo di massa

Distopica o no, la visione di Neal Stephenson di un enorme ambiente virtuale parallelo al mondo fisico è arrivata e sta generando molti interrogativi: siamo preparati al metaverso? Chi lo governerà? Quali sono i rischi in serbo? In questo momento, però, abbiamo più domande che risposte

4 giorni fa
Barbara Calderini

Legal Specialist - Data Protection Officer

Metaverso, la tecnologia che promette l’integrazione tra mondo fisico e virtuale; l’evoluzione del cyberspazio verso un regno immersivo multidimensionale senza confini, persistente, interoperabile e condiviso, avrà implicazioni su tutti gli aspetti della nostra società, inclusi l’intrattenimento, la pubblicità, l’economia e anche il diritto.

Verranno generati nuovi modelli di business e favoriti sia l’aggiornamento che il miglioramento dell’infrastruttura a supporto del metaverse.

O, forse, sarà più il preludio di una forma di sorveglianza su microscala senza precedenti al servizio di un regno dove la percezione amplificata del virtuale si alimenta di informazioni provenienti dal mondo reale e complesso, in cui i dati e la tecnologia rappresentano “confini esistenziali” di un’area grigia tra il virtuale e la realtà, che sfuggono alla percezione del diritto e delle leggi vigenti.

Siamo preparati per questo? Che tipo di metaverso vogliamo creare? Chi può crearlo? Chi stabilirà la governance del metaverso? E fin dove può spingersi il rapporto tra l’uomo e la tecnologia?

Proviamo a rispondere a queste domande.

Che c’è in ballo con il Metaverso di Facebook-Meta

Verso una società dell’ipercontrollo?

È il palcoscenico di una società automatica dell’ipercontrollo, che Bernard Stiegler descriverebbe come “fondata sullo sfruttamento industriale, sistemico e sistematico delle ritenzioni terziarie digitali dove tutti gli aspetti del comportamento contribuiscono a generare tracce, e tutte le tracce diventano oggetti di calcolo…”, e in cui “tutti i dati del mondo possono essere raccolti e archiviati in un unico luogo e si possono scrivere algoritmi sufficientemente completi per analizzarli”[1].

WHITEPAPER
Gestione dei contratti e GDPR: guida all’esternalizzazione di attività dei dati personali
Legal
Privacy

Una svolta verso forme di transumanesimo enfatizzato dall’immenso potere trasformativo delle tecnologie, attraverso le quali ogni individuo viene messo in condizione di poter esplorare identità multiple tramite avatar online, agenti intelligenti semi-autonomi e altre espansioni identitarie.

Second Life, il progetto lanciato nel 2003 da Linden Lab, aveva già promesso una sorta di “happiness in an onlife world”. Poi però di quel mondo rimasero solo le tante cattedrali nel deserto segno dell’evidente declino di un ambiente virtuale spopolato e privo di ambizione, le cui sorti, peraltro, non sono cambiate neppure a seguito del lockdown globale e conseguente distanziamento sociale.

E, pertanto, cosa dobbiamo aspettarci da questa rinnovata attenzione verso spazi virtuali come “terra di mezzo” dove dati e realtà si fondono per superare i limiti e le restrizioni imposte dal mondo fisico e biologico?

Quali sono i rischi in serbo? 

I rischi del metaverso

Se con “Snow Crash“, al mondo è stato offerto il primo assaggio romanzato (o forse il primo ammonimento) di un mondo virtuale parallelo, nella vita reale il metaverso sta già fornendo nuova vitalità all’economia reale, rappresentando una sorta di modello mainstream proprietario, animato due grandi paradigmi della computer science: l’ubiquitous computing[2] e il cloud computing[3] in cui gemelli digitali, repliche digitali di entità viventi e non viventi, avatar, alcuni dei quali potrebbero essere bot, agenti virtuali e manifestazioni di intelligenza artificiale, prosperano e vengono resi sempre più accattivanti dalle migliori tecniche di computer graphic.

Bloomberg Intelligence ha stimato opportunità di mercato nel metaverso per un valore di 800 miliardi di dollari entro il 2024.

Il rischio di sorveglianza e di ingegneria sociale

Giocoforza dunque la prima riflessione da porsi riguarda la logica aziendale sottesa alla rinnovata attenzione delle grandi aziende verso il metaverso e il rischio di soppressione della capacità di autodeterminazione degli individui, a vantaggio della formattazione su un unico standard dominante per la costruzione di ulteriori mercati dell’attenzione: l’intermediazione sulla realtà, la nuova frontiera del “capitalismo cognitivo e della sorveglianza”, potrebbe, infatti, facilmente condurre ad un nuovo assalto silente alla vulnerabilità umana esposta alla modulazione comportamentale degli utenti/consumatori, aprendo a diverse questioni di giustizia sociale, di mercificazione dei dati personali e pratiche predatorie sulla privacy.

In modo particolare in Paesi caratterizzati da evidenti e persistenti disuguaglianze strutturali e socio economiche, le persone sono indotte a cercare alternative ad una realtà piuttosto invisa e deprimente: come nelle Filippine, o anche in Corea del Sud, dove la “Gen MZ”, forte della “Meta Universe Alliance”, il partenariato guidato dal governo con oltre 200 aziende (tra cui SK Telecom, Hyundai Motor, Korea Mobile Internet Business Association), si è precipitata nel metaverso per navigare nel nuovo panorama delle attività virtuali, convinti in tal modo di poter dare le spalle alla mancanza di opportunità che sta caratterizzando i rispettivi paesi, con una popolazione che invecchia e una forza lavoro in calo. Come quelle di Nexon, la principale azienda di giochi in Corea del Sud e il suo popolare IP Maplestory o Netmarble, ma anche Decentraland – in cui gli utenti acquistano e sviluppano appezzamenti di terreno virtuali come token non fungibili – NFT e utilizzano la sua criptovaluta nativa, chiamata MANA- e Axie Infinity – il successo rivoluzionario nel mondo dei giochi blockchain.

Allo stesso modo in Giappone dove il meta universo fa già discutere per i riflessi in termini di isolamento dal mondo reale e dipendenza digitale dei giovani (hikikomori).

È prevedibile che deep fake “dominanti” appositamente inseriti in specifici scenari virtuali costellati di dark patterns, possano incidere in maniera determinante sulle reazioni comportamentali degli utenti, suggestionarne l’impatto sensoriale, manipolarne le scelte e le abitudini di consumo, utili anche per influenzare il network dell’insieme di avatar che gravita all’interno degli spazi immersivi di pertinenza dei singoli utenti.

Le possibilità di inferenze nel metaverso sono, infatti, molte: le tecniche di profilazione si portano ad un livello più alto consentendo lo sviluppo di strategie, applicate alle operazioni di data mining, favorite dalla disponibilità di vasti set di dati sull’esperienza emotiva degli utenti e sulla relativa percezione della realtà.

Il rischio sui dati

E poiché il metaverso raccoglierà più che mai i dati degli utenti, una delle preoccupazioni più rilevanti riguarda proprio la sfera della tutela della privacy ed il rischio di monitoraggio onnipresente e di compromissione della sicurezza dei dati.

Metadati, impronte digitali e breadcrumb[4] digitali vengono tracciati rivelando identità, posizione, età, preferenze di acquisto, amici, film preferiti e molto altro, compresi numeri di carte di credito, numeri di identità della previdenza sociale, nome da nubile della madre, anamnesi familiari, informazioni sul conto bancario e così via.

Non solo. Poiché il metaverso interconnetterà sia il mondo fisico che i suoi gemelli digitali – le copie digitali dei nostri ambienti fisici – il numero delle interazioni generatrici di informazioni verrà ampliato a dismisura; tutti gli utenti umani nel mondo fisico saranno sottoposti a continuo rilevamento di dati biometrici eye-tracking e motion tracking, onde cerebrali, raccolti dalle interfacce cervello-computer, dai dispositivi indossabili, e opereranno attraverso avatar e oggetti virtuali, droni ed agenti robotici collaborativi, situati sia nel metaverso che nella mixed reality, in ambienti fisici. Ovvero sia il mondo fisico che quello virtuale si influenzeranno costantemente a vicenda e in modo ubiquitario. Il concetto di spazio (cyberspazio) si prenderà la rivincita su quello di tempo.

Sono quantità insondabili di dati, compresi quelli biometrici come il riconoscimento dell’audio e dell’iride associati in modo permanente a un utente, depositati in data center per lo più centralizzati (anche se sono state suggerite soluzioni blockchain, database distribuiti, al momento ritenute fuori portata e poco competitive), con elevata capacità di calcolo e di archiviazione, a disposizione di altri esseri umani, potenzialmente aggregati e sottoposti a processi di data analysis per gli scopi più svariati, destinati allo sviluppo di applicazioni di intelligenza artificiale, monitoraggio e pianificazione.

Tutte aree ad alto rischio di violazione e, man mano che ci spostiamo nel metaverso, che si amplia la sfera di interoperabilità tra piattaforme e device collegati, la superficie di attacco aumenta: dai problemi di autenticazione e criteri di accesso – ai malware, dall’affidabilità dei sistemi di crittografia – alla sicurezza DNS, dagli attacchi DDoS – alla perdita di controllo dei dati, falsificazione, furto e perdite su larga scala, dalla lesione all’ integrità contestuale dei flussi di dati – al mancato rispetto delle normative vigenti – con effetti personali reali e importanti, nei confronti dei quali neppure le paventate soluzioni basate su blockchain, elaborazioni locali, tecnologie edge computing, server edge e sistemi federati, sembrerebbero fornire, almeno per ora, valide alternative di sicurezza maggiormente rassicuranti o affidabili.

Anzi, blockchain, criptovalute e NFT vengono da alcuni esperti del settore ritenute tecnologie abilitanti ulteriori minacce, piuttosto che metodologie parte della soluzione: Cisco Talos ha documentato come i criminali informatici abusino delle funzioni dei contratti intelligenti nel metaverso.

È molto probabile, dunque, che almeno per i prossimi cinque anni il cloud e tutto l’ecosistema IoT continueranno a svolgere un ruolo vitale nell’era del metaverso e si porteranno dietro tutti i problemi di sovranità digitale, protezione da accessi illeciti e flusso transfrontaliero dei dati, che ben conosciamo.

Di non poco conto, inoltre, tutte le dinamiche che ruotano intorno alla necessità di implementare nel metaverso determinati meccanismi di verifica dell’identità dei partecipanti, più efficaci e rispettosi dei canoni normativi e dei diritti degli utenti, specie se minori, piuttosto che continuare ad affidarsi a semplici meccanismi di consenso facilmente “aggirabili” o fraintendibili e che non garantiscono un adeguato livello di cognizione dell’utente.

Il rischio geopolitico legato alla governance del metaverse

Che dire, inoltre, delle problematiche, ad oggi ancora largamente irrisolte anche nel mondo reale, relative alla regolamentazione e alla responsabilità degli intermediari digitali, i giganti della tecnologia statunitensi, al perimetro entro il quale poter “realisticamente” esercitare il “fantomatico” diritto all’oblio e alla definizione della governance che ruota intorno alla moderazione dei contenuti on line ritenuti (da chi?) violenti/estremisti, inneggianti all’odio o altrimenti illeciti.

Nonostante il crescente consenso globale sulla necessità di tenere a freno il potere della grande tecnologia permangono, infatti, forti differenze su come farlo al meglio, e tale frammentazione viene ulteriormente amplificata nel metaverso dove le istituzioni non sembrerebbero, ancora, avere idee precise sulla direzione di marcia da intraprendere.

In Europa la preannunciata Strategia europea per i dati, la proposta di Regolamento sull’Intelligenza Artificiale unitamente al Digital Services Act e Digital Market Act, al Data Governance Act e al recente Regolamento “platform-to-business”, sembrerebbero poter costituire il substrato normativo embrionale impiantabile nel meta universo virtuale. Ma anche tale prospettiva si preannuncia sin d’ora parziale e limitata poiché esclude dall’alveo regolatorio (salvo qualche eccezione relativa alla proposta di Data Governance Act, il quadro giuridico europeo pensato per il riutilizzo dei dati del settore pubblico coperti da diritti di proprietà intellettuale e dati riservati di natura personale e non personale) l’incidenza di dati secondari, dati inferiti e dati non personali, fondamentali in vista della definizione del perimetro di responsabilità e governance del metaverse.

Secondo una nota di ricerca pubblicata dal China Institutes of Contemporary International Relations, un think tank statale affiliato con il Ministero della Sicurezza di Stato cinese, le “caratteristiche tecnologiche” e i “modelli di sviluppo” del metaverso hanno già mostrato come lo stesso eserciti un potenziale impatto sulla sicurezza nazionale e sulle esigenze di sovranità digitale che non vanno trascurate. L’articolo, scritto da quattro ricercatori dell’Institute of United States Studies – Li Zheng, Li Mo, Zhang Lanshu e Han Yafeng, evidenzia come uno dei rischi insiti nell’universo parallelo consista nell’egemonia politica, economica e tecnologica, a cui sarebbero esposti in modo particolare (ma sono in buona compagnia) i paesi in via di sviluppo, tra i più esposti alla dipendenza dalle infrastrutture tecnologiche delle grandi potenze digitali che non hanno fatto mistero dei loro programmi ambiziosi rivolti allo sviluppo del metaverso.

“Mentre il metaverso attraversa i confini nazionali, i suoi problemi e le sue sfide diventeranno potenziali argomenti per la futura politica internazionale”, hanno affermato i ricercatori del tink thank: “Potrebbero esserci lacune normative in settori come l’antiriciclaggio, le sanzioni, la supervisione finanziaria e la protezione dei diritti di proprietà intellettuale, e questo spingerà la comunità internazionale a esplorare la cooperazione”. “Si prevede che Metaverse diventerà una piattaforma di cooperazione a disposizione dei giganti della tecnologia per ripristinare la fiducia del governo.

Conclusioni

L’idea che sia possibile un metaverso aperto, progettato by design per il rispetto dei principi di sicurezza, trasparenza, minimizzazione e legittimità dei trattamenti dei dati, a presidio della tutela dei diritti digitali e dei valori fondamentali di dignità, autonomia e libertà, non sembra facilmente conciliabile, al momento, con i piani dell’industria tecnologica impegnata in investimenti febbrili e business plans sofisticati destinati alla governance del mondo virtuale, forieri di asimmetrie di potere, vulnerabilità tecnologiche, costi di esclusione e discriminazioni abusive.

Il dibattito dei giuristi sul crinale del nuovo universo parallelo, sui potenziali rischi e interessi in gioco costituisce, dunque, solo la doverosa premessa di una discussione, al momento lacunosa, che dovrà essere interdisciplinare e ad ampio spettro, che non potrà limitarsi al solo campo del diritto, della conformità alle normative vigenti, bensì dovrà coinvolgere il settore accademico, economico, scientifico, il campo dell’etica e della filosofia, per maturare serie riflessioni su quanto “virtuale” possono permettersi gli individui (non i colossi tecnologici) per poter avanzare e prosperare; per favorire lo sviluppo della società della partecipazione, sfruttando al meglio l’innovazione e il progresso tecnologico.

In assenza di un quadro preciso sull’impatto, che in termini di effetti personali, l’abuso di certe tecnologie comporta, il pericolo maggiore da scongiurare è quello che già Brett Frischmann ed Evan Selinger in Re-Engineering Humanity[5], supponendo di procedere attraverso un test di Turing inverso, hanno definito “ingegneria tecno-sociale”.

Una sorta di moderno taylorismo guidato dalla tecnologia in cui big data, analisi predittive e ambienti intelligenti, dominio delle piattaforme digitali, infrastrutture sociali critiche interpreti principali del metaverso, possono facilmente condurre gli individui verso forme silenziose di regolamentazione del comportamento, il cui esito potrebbe spingersi ben oltre la sola perdita di controllo dei dati, comportando altresì una mancanza di controllo delle relative vite.

Luciano Floridi[6] descrive la società in cui viviamo uno spazio dove “agenti informazionali interconnessi condividono con altri agenti biologici e artefatti ingegneristici un ambiente globale, costituito in ultima istanza da informazioni”, che ha chiamato “infosfera”.

È questa un’efficace descrizione della realtà attuale, compreso il suo metaverso, dove tracciare la direzione da imprimere a quel “progetto umano verso il capitalismo della cura”, per usare le parole dello stesso Floridi, che passa attraverso la gestione della complessità, a cominciare dalla la corretta declinazione della grammatica dei diritti fondamentali, incentrata sulla valutazione degli effetti personali che certe innovazioni si portano dietro.

Sempre consapevoli, che ogni passaggio istituzionale e regolatorio sarà pur sempre un artefatto storico-evolutivo, mobile, e dunque temporaneo, di cui avere costante cura in vista della difesa della dignità in tutte le sue forme principali.

Lo stesso concetto di responsabilità giuridica, in tal senso, dovrà assurgere a livello di principio cardine della governance della società tecnologica e, in una costante interazione con il campo delle scienze, far fronte al rischio di effetti non governabili e indesiderabili.

Note

  1. Crf. George Gilder, La vita dopo Google
  2. L’espressione “Ubiquitous computing”, coniata nel 1988 dal ricercatore del Parc, Mark Weiser, è usata in maniera parzialmente intercambiabile con Pervasive computing (informatica pervasiva) Ambient intelligence (intelligenza ambientale), Everyware (gioco di parole inglese con il termine “everywere”, ovunque, e la desinenza “ware” usata in questo contesto per i termini “software” e “hardware”) e Internet of things, Internet delle cose, che indica la possibilità di mettere in rete tutti gli oggetti della vita quotidiana, dotandoli di una minima capacità di calcolo per attivare meccanismi di automazione e di riconoscimento e scambio di informazioni, in quest’ultimo caso già allo studio nel settore della Domotica (vedi). Gli studi sull’Ubiquitous computing e le differenti idee per la sua realizzazione sono condotti da numerosi centri di ricerca, sia di aziende del settore informatico che dell’elettronica di consumo. (Antonio Dini). Per saperne di più www.ubicomp.org www.pervasiveconference.org. Tratto da https://st.ilsole24ore.com/art/SoleOnLine4/100-parole/Tecnologia/U/Ubiquitous-computing.shtml
  3. Indica la distribuzione di servizi di calcolo, come server, risorse di archiviazione, database, rete, software, analisi e intelligence, tramite Internet (“il cloud”).
  4. La breadcrumb (letteralmente “briciole di pane”) (o anche “filo di Arianna” o “Percorso di Pollicino”) è una tecnica di navigazione usata nelle interfacce utente. Lo scopo è quello di fornire agli utenti un modo di tener traccia della loro posizione in documenti o programmi. Rappresenta un “sentiero” composto di link utili agli utenti per tornare indietro alla pagina iniziale del sito web o a pagine visitate in precedenza per arrivare all’attuale. https://it.wikipedia.org/wiki/Breadcrumb
  5. Frischmann, B., & Selinger, E. (2018). Re-Engineering Humanity. Cambridge: Cambridge University Press. doi:10.1017/9781316544846
  6. Crf. Pensare l’infosfera – la filosofia come design concettuale, opera del Prof. Luciano Floridi, Raffaello Cortina editore, 2020
WHITEPAPER
Rete, sicurezza e digital workplace: un nuovo modello per il lavoro agile
Networking
Network Security
@RIPRODUZIONE RISERVATA

Articolo 1 di 4