Gemello digitale fra innovazione e datacrazia: ecco perché serve riappropriarsi dei dati | Agenda Digitale

L'ANALISI

Gemello digitale fra innovazione e datacrazia: ecco perché serve riappropriarsi dei dati

Il digital twin si sta affermando con forza nell’industria. Ma in prospettiva rischia di estendere il proprio dominio anche alla sfera privata degli utenti: non solo orientando, ma anticipando scelte e comportamenti. Con gravi ricadute sulla democrazia. Vediamo come giocare d’anticipo sui futuri “nipotini” di Siri e Alexa

19 Ott 2020
Maria Pia Rossignaud

Direttrice Media Duemila, Vice presidente Osservatorio TuttiMedia


Il Gemello Digitale, il Digital Twin, è una delle figure nascenti dalla trasformazione digitale, il cui cuore è l’Intelligenza artificiale. Analizziamo vantaggi e rischi della nuova “rappresentazione virtuale” della realtà. E cerchiamo di comprendere come scongiurarne gli effetti collaterali negativi. Stiamo, infatti, vivendo in tempi entusiasmanti ma è bene prenderne coscienza e valutarne criticità e positività prima di essere sommersi in nuovo mondo in cui l’uomo potrebbe avere poche libertà.

Intelligenza artificiale creatrice di contenuti

Prendiamo l’esempio del GPT3 (Generative Pretraining Transformer), modello linguistico che permette alla macchina di creare un contenuto su richiesta e una delle novità più recenti sul fronte Intelligenza artificiale, che aiuta a comprenderne la portata. La differenza tra il GPT3 e Wikipedia, ad esempio, è che quest’ultima fornisce risposte grazie ad un database preesistente, la nuova intelligenza le risposte le auto-genera. Questa nuova tecnologia che esce dai laboratori di OpenAI è stata già impiegata dal quotidiano The Guardian in un primo articolo scritto completamente da un’Intelligenza artificiale.

Con 175 miliardi di parametri, GPT-3 è attualmente il re delle grandi reti neurali. Le grandi reti potrebbero non essere in realtà le migliori, ma il fatto che OpenAI sia riuscita a superare i risultati ottenuti dalle precedenti Open AI GPT e TuringNLG probabilmente incrementerà, e non diminuirà, il desiderio di reti neurali sempre più grandi. Più di 30 ricercatori di OpenAI hanno pubblicato modelli che permettono di ottenere risultati all’avanguardia in termini di attività come la generazione di articoli e notizie. Ed anche in questo caso si pongono problemi di etica soprattutto in un mondo in cui soggettività e oggettività stanno perdendo di significato e le fake news dilagano.

Nel documentario Social Dilemma viene raccontato l’essere intrappolato in un contesto di cui perde il controllo delle sue azioni che vengono indirizzate attraverso i social media. Ancora prima in Black Mirror, fiction famosa degli ultimi anni, gli appassionati di fantascienza hanno partecipato al primo esperimento virtuale di social credit nell’episodio “Caduta Libera”: una giovane donna costretta a confrontarsi con una serie di eventi negativi che la portano a perdere tantissimi “like”, si ritrova ai margini di una società basata sul punteggio (social credit modello cinese). Il modello di società basata sul social credit si contrappone a quello del capitalismo di sorveglianza descritto nel libro “Il capitalismo della sorveglianza. Il futuro dell’umanità nell’era dei nuovi poteri”, di Shoshana Zuboff edito in Italia dalla Luiss.

“Oltre Orwell, il Gemello Digitale”

Per Derrick de Kerckhove, direttore scientifico di Media Duemila e dell’Osservatorio TuttiMedia e docente al Politecnico di Milano, l’uomo è sempre più prigioniero dei dati che lascia e presto potrebbe trovarsi a dover scegliere fra il sistema di “social credit” cinese o il surveillance capitalismo occidentale: “È il momento di sostenere nuovi percorsi legislativi e nuove pratiche sociali – afferma – ne ho parlato durante il Premio Nostalgia di Futuro 2019 al Senato presente la presidente Maria Elisabetta Alberti Casellati perché l’Intelligenza Artificiale può portare benefici all’intera società e all’economia a patto che le sue applicazioni pratiche siano dettate da regole chiare dal punto di vista giuridico ed etico”. Non è un caso che l’8 aprile 2019 la Commissione Europea ha rivolto al Parlamento Europeo, al Consiglio, al Comitato Economico e Sociale Europeo e al Comitato delle Regione un appello che sottolinea l’importanza di porre l’essere al centro dello sviluppo dell’Intelligenza Artificiale.

Nel libro “Oltre Orwell, il Gemello Digitale” edito da Castelvecchi si sottolinea l’importanza di attrarre l’attenzione sull’evoluzione della società digitale con lo scopo di far comprendere che è necessario partecipare alla trasformazione digitale e non lasciare che si compia sopra le nostre teste: non si tratta solo di algoritmi ma di un nuovo modello sociale che incide sulla vita quotidiana. Sugli algoritmi si continua a scrivere e parlare, per lo più alla cieca, è il momento di capire il contesto più ampio in cui operano e l’interazione con il nostro essere umano.

Parlare di rapporto con l’essere umano significa, appunto, parlare di un contesto che riguarda soprattutto l’etica nell’era della virtualizzazione: lo spazio virtuale non è semplicemente Realtà Virtuale ma l’intero mondo digitale occupato dal momento in cui pigiamo il cursore sullo schermo. Ecco che il nostro essere girovaga fra tre spazi. E volenti o nolenti ci siamo dentro. Dall’invenzione degli schermi, siamo stati invitati ad occupare sempre di più un nuovo ambiente spaziale e temporale. Il terzo spazio può essere solo virtuale e nonostante ciò è abbastanza occupato da tutti noi. Di cosa è fatto? Dei dati disponibili in tutte le combinazioni on e off line.

La novità riguarda l’accesso che lo stesso ambiente cognitivo, frequentato dalle persone, ha su ciascuna di esse perché lo spazio virtuale è guidato da algoritmi allo stesso modo in cui lo spazio fisico è gestito dalla fisica. Lo spazio fisico ci contiene e ci costringe a comportamenti che vi si adattano. In quanto ambiente, è generalmente utile perché porta benefici sia al nostro io personale che al nostro ambiente sociale. Il punto dolente è il potere ad esso connesso e quindi le tentazioni che ne derivano. Diventare Presidente o Primo Ministro è più facile, condividere e soddisfare il nostro egotismo sociale è semplice (mail di odio).

Verso una simbiosi mente-tecnologia

D’altra parte, fidandoci degli strumenti virtuali, deleghiamo a loro poteri considerevoli che noi, come individui stiamo iniziando a perdere, ad esempio, memoria, giudizio, immaginazione e privacy. Per nominare quelli principali. I segni che gli sviluppi tecnologici porteranno anche il sé dentro la macchina sono evidenti tanto che parliamo di “Gemello Digitale“. Infatti, la maggior parte dei nostri dati personali è già disponibile per gli altri.

Tutto ciò può essere sicuramente utile se lo scenario plausibile che combina tecnologie per smartphone e per assistenti digitali, significherà copie digitali non solo del nostro sé presente, ma di ogni dettaglio della nostra vita. Essere equipaggiati con un gemello basato su database, machine learning e intelligenza artificiale con strumenti pertinenti probabilmente darà a ciascuno di noi l’accesso a poteri cognitivi enormemente aumentati, ma più useremo quei poteri, meno dipenderemo dalle nostre facoltà interne: pensare, immaginare, pianificare, progettare, giudicare, scegliere, decidere. Cosa resterà del nostro prezioso “libero arbitrio” e autonomia? Siamo e saremo sempre più rintracciati nei minimi dettagli, quindi nulla sarà lasciato al caso, nemmeno il nostro comportamento.

Alle porte c’è la relazione simbiotica con la tecnologia in cui involontariamente ci stiamo impegnando: uno scambio travolgente ma sottile tra psicologia e tecnologia. Il nostro contenuto interiore si sta spostando, mentre dentro di noi le motivazioni delle scelte cominciano ad essere guidate dagli algoritmi che prendono possesso del nostro intimo. Quindi questo libro parla dell’etica intrappolata tra biologia e tecnologia (per non parlare ancora dell’ecologia). In sostanza, il libro affronta il rapporto tra identità, responsabilità e comportamento. La nostra era attuale, comparabile solo al Rinascimento per il livello, se non la durata, della lotta sociale, del dolore e dell’ansia, soffre di una crisi globale di identità. Si potrebbe interpretare la pratica incessante dei selfie come un riconoscimento inconscio di cui le persone hanno bisogno per rassicurarsi sulla loro presenza nel mondo.

WEBINAR
Come valorizzare i dati grazie a Edge Computing e Micro Data Center
IoT
Manifatturiero/Produzione

Ci sono diversi motivi per cui le persone perdono la loro identità privata on line, benché affannosamente cerchino di raggrupparsi in comunità di interesse che a loro volta sono spesso in contraddizione l’una con l’altra.

Il nostro “doppio” costruito sui dati

Il motivo principale è che tutto ciò che costituisce il nostro “io”, ovvero memoria, intelligenza e giudizio, in altre parole, il nostro “contenuto”, sta emigrando in un database attraverso gli schermi. Lo scambio è con le nostre menti che a loro volta sono riempite da contenuti promossi da rappresentazioni algoritmiche e non sempre corrispondenti a ciò di cui potremmo aver bisogno o desiderare nella vita di tutti i giorni o nel settore politico e amministrativo. Cambridge Analytica? Un grande scandalo che non ha prodotto riflessioni su pratiche necessarie a far sì che non succeda più.

E’ quindi necessario riflettere proprio sulle frontiere dell’evoluzione dell’Intelligenza Artificiale che deve essere governata dall’uomo. Infatti, il nostro doppio digitale è la nostra vita raccontata dai dati, che viene trasformata in un alter ego autonomo che può prendere decisioni anche al nostro posto.

Marshall McLuhan, il teorico del villaggio globale, ha detto: “Nell’era dell’elettricità metà umanità passerà a spiare l’altra metà”. In questo modo ha annunciato che il concetto di privacy avrebbe subito, nel corso degli anni, cambiamenti significativi per non dire che sarebbe potuta sparire, definitivamente. A quei tempi nessuno immaginava che un giorno saremmo stati tracciati.

Il rovesciamento positivo della perdita di privacy sarà la ripresa del nostro potere sui nostri dati: questo il concetto che nel libro abbiamo voluto far emergere. Il centro di questa riflessione è la dimensione della reciprocità dell’informazione protagonista della nostra società, manifestata con forza nell’era del Covid-19. L’informazione, come il virus, parte dall’uomo, arriva fuori dell’uomo, può cambiare la vita all’uomo proprio attraverso il gemello digitale, l’altro me che si fa strada nel mondo degli assistenti virtuali.

Alexa e Siri sono i cavalli di Troia che penetrano nella nostra casa, nella nostra intimità, però attenzione: non per sempre. Probabilmente noi umani passeremo dall’accettazione al desiderio di un gemello digitale personale, per questo dobbiamo sperare che diventi parte dei diritti umani fondamentali. Ormai Samsung sta lavorando sulla creazione di un gemello digitale personale. Probabilmente fra 10 anni non percepiremo il nostro gemello digitale come un’entità separata. A quel punto saremo un’entità unica inseparabile, praticamente un gemello siamese.

Vita umana come flusso di bit

Il Gemello Digitale, accezione coniata da General Electric per identificare la copia digitale di un motore prodotta nelle loro fabbriche, è ormai una realtà in diversi settori. Possono essere quasi “identici” all’oggetto reale, come nel caso di GE, o copie piuttosto accurate come nel caso delle vetture Tesla, oppure ancora rappresentazioni approssimative nel caso di altri prodotti.

I gemelli digitali possono essere usati per diversi scopi, come la simulazione e il monitoraggio del funzionamento dei prodotti di cui sono le repliche. E possono anche essere intesi come piattaforme sulle quali testare nuove implementazioni (a loro volta in formato digitale) per un prodotto originale. La crescita dei gemelli digitali è alimentata dalla crescita e dal costante miglioramento dei processi di digitalizzazione in fase di design, fino alla creazione della copia digitale del prodotto finito, la quale a sua volta può essere utilizzata per diverse esigenze.

Ma oggi il protagonista della scena tecnologica sta diventando il doppio digitale dell’uomo. Non si tratta più di science fiction giacché, seppur in maniera molto limitata, l’emergere di copie digitali di noi stessi è già iniziata a livelli micro e macro. In effetti tutti i dati, da riunire per far nascere il Gemello Digitale di ciascuno di noi, sono già sparsi nelle banche dati del mondo.

Roberto Saracco (Co Chair IEEE), sosteneva già nel 2019 che la nuova figura si riscontra, a livello micro, per esempio, nelle pratiche comuni degli esami clinici digitalizzati (radiografie, TAC, MRI, ecc.). “Tali rappresentazioni biologiche delle parti del nostro corpo permettono poi al medico di trovare soluzioni più utili al paziente – ha spiegato Saracco sulle pagine di Media Duemila -. A livello macro possiamo invece considerare Facebook (e numerose altre applicazioni social) come una sorta di gemello digitale grezzo, in grado di catturare in formato digitale aspetti della nostra vita, di ciò che facciamo e di chi siamo. Esempi questi ancora lontani dall’idea di un gemello digitale a tutto tondo, tuttavia possono già rappresentarne un’idea e le applicazioni. Passando al futuro creare un gemello digitale per ciascuno di noi richiede fondamentalmente la capacità di replicare atomi in formato di bits, nonché la capacità di creare una rappresentazione speculare di come questi atomi interagiscono tra loro e con l’ambiente. Non è necessario replicare atomo per atomo in formato digitale: il motore di GE, per esempio, ha un proprio gemello digitale che, tuttavia, per quanto accurato, non è la copia atomo-per-atomo del modello reale”.

Digital Twin: Siri e Alexa gli apripista

“Per quanto riguarda l’uomo – scrive ancora Saracco – il suo doppio è alimentato dalle tracce che ciascuno lascia in rete ed ora più che mai dai maggiordomi digitali che stanno invadendo le nostre case, le nostre macchine e le nostre protesi tecnologiche. Il proliferare di un numero crescente di strumentazioni a sensori, indossabili e sempre più implementabili sul e nel corpo sono cibo per il nostro doppio digitale. Però noi esseri umani siamo molto molto di più (o almeno lo speriamo) della mera rappresentazione di muscoli e movimento, metabolismo e battito cardiaco. Siamo anche, soprattutto, pensieri. Sebbene, la creazione di una fedele replica digitale del nostro cervello appartenga ancora al campo della science fiction, è già possibile ottenere una rappresentazione approssimativa del suo comportamento. Certi che la creazione del nostro gemello digitale sarà un processo lungo, oggi Siri e Alexa, ad esempio, ne sono dei degni antenati”.

Il rischio, secondo Saracco, “è perdere le tracce dell’evoluzione e trovarsi ancor prima di rendersene conto con un Gemello Digitale che decide per noi università, cibo, palestra e perché no anche il compagno. Tutto ciò potrebbe diventare possibile perché già oggi il nostro stato fisico è monitorato, tenendo traccia del numero dei passi che facciamo, del ritmo cardiaco, delle calorie che assumiamo e di quelle che spendiamo, dell’ossigenazione del sangue etc. dal nostro inseparabile amico: lo smartphone. Ma lo smartphone registra anche quello che leggiamo e guardiamo su Internet così come i nostri acquisti, e potrebbe, quindi, rispondere per noi a molte domande o addirittura anticipare le nostre scelte. Siamo difronte ad un processo lento e quasi impercettibile attraverso il quale aspetti e porzioni sempre più ampie di noi stessi sono riflesse in una rappresentazione digitale sempre più accurata”.

Il Gemello Digitale nel 2017 è diventato uno dei trend strategici ed ha cominciato ad interessare urbanisti, strateghi militari, operatori dei sistemi di sicurezza, educatori, formatori. E via via il concetto ha catturato l’attenzione di sempre più imprese, città e interi paesi. Roberto Viola (direttore della DGConnect a Bruxelles) ha affermato di vuole costruire un Gemello Digitale dell’Europa.

Da qui l’idea di scrivere un testo divulgativo su questa nuova figura che domani con molte probabilità avrà anche sembianze umani. Noi, Derrick de Kerckhove ed io, la immaginiamo aggirarsi per le strade attendendo domande. E sì, domande: il problema del terzo millennio sono le domande, dato che le risposte le abbiamo tutte già nelle nostre protesi tecnologiche. Siamo di fronte a una enorme mutazione epistemologica, ma attenzione: nulla è senza rischi. Dalla logica sequenziale ci avviamo verso l’ecologia algoritmica, il rovesciamento del vettore è temporale, cioè dovuto al mondo che passa, definitivamente, dal presente al futuro immediato dei predictive analytics e dall’analogico al digitale.

Scongiurare l'”effetto rana bollita”

La condizione che emerge dall’intersezione di dati e algoritmi è l’anticipazione: la capacità del nuovo apparato sensoriale e cognitivo di anticipare (con un meccanismo feed-forward) eventi e comportamenti. La prolassi, l’orientamento verso il futuro, richiede amplificazione, automazione e aggiornamento costante (anche se invisibile all’uomo in quanto prodotto da tecnologie autonome e automatizzate)”. Parole di Cosimo Accoto nel suo splendido libro “Il Mondo Dato (2017)”.

Il libro “Oltre Orwell, il Gemello Digitale” usa la metafora “The Boiling Frog” che forse la maggior parte di noi ricorda (“principio della rana bollita”), utilizzato dal filosofo americano Noam Chomsky per descrivere la società e i popoli che accettano passivamente degrado, vessazioni, scomparsa dei valori e etica: viene riportata proprio per evidenziare la tragicità dell’astensione, della pigrizia del lasciar fare. Non ci sono basi scientifiche a dimostrare questo principio, ma è un ottimo spunto, valido in sociologia e psicologia, per spiegare alcuni comportamenti come la capacità di adattamento dell’uomo che spesso si adagia e accetta gli eventi anche più orribili.

Ritornando alla nostra rana che bolle la metafora si riferisce agli esperimenti alla fine del diciannovesimo secolo per determinare la sensibilità del sistema nervoso di questo animale. Durante uno di questi è stato scoperto che una rana bollita da viva non dava segni di insofferenza durante il processo di cottura perché la temperatura dell’acqua all’interno della pentola veniva aumentata di piccoli gradi incrementali: l’animale non si accorgeva di nulla.

La teoria è stata più volte confutata e non ha nessuna legittimità scientifica, ma il concetto applicato alla psiche umana e alla trasformazione digitale sembra ben calzare perché è l’uomo che deve essere al centro dell’evoluzione che deve guidare e non subire. Il mondo deve continuare ad essere antropocentrico e quindi il gemello digitale di ciascuno di noi dovrebbe essere creato da noi stessi consapevolmente. 

Gestione dati, a chi spetta il controllo?

La metafora della rana che bolle impone di riflettere sul fatto che nessuno vorrebbe svegliarsi in un mondo cambiato completamente senza averne avuto la percezione. Siamo già in un lento e quasi impercettibile processo. Se vogliamo mantenere una volontà personale e il controllo sul nostro destino personale, è necessario rientrare in possesso della gestione dei nostri dati a un livello molto più completo e complesso del GDPR e non solo in Europa, ma nel mondo intero con garanzie politiche e giuridiche.

In questa “digital transformation” l’etica diviene priorità. Nell’era in cui i ruoli cambiano, la contaminazione dei ruoli dilaga, la post-verità, così come il populismo, porta a confondere oggettività e soggettività. Le dichiarazioni dei potenti non richiedono più nessun tipo di verifica. Questa confusione minaccia la democrazia e un gemello digitale costruito senza trasparenza potrebbe essere il veicolo di complesse restrizioni.

La datacrazia sostenuta dai Big Data, elemento fondante della catena del valore della città digitalmente avanzata e abitata da uomini con il loro doppio digitale, può diventare il repository della memoria collettiva e personale. “Oltre Orwell, il Gemello Digitale” vuole essere una chiamata alle armi per la costruzione comune di nuova etica, missione in cui i media hanno una responsabilità oggettiva. Con l’associazione Osservatorio TuttiMedia stiamo aggregando persone (volutamente non parliamo di esperti) per creare la mente collettiva da cui far nascere una nuova ecologia dei media. Lo scopo è porre le basi per la nuova Algoritmetica.

@RIPRODUZIONE RISERVATA

Articolo 1 di 4