videogame culture

Roblox e gli “avatar emotivi”: le novità e i risvolti inquietanti del facial emotion recognition

Roblox si appresta a lanciare gli avatar emotivi in grado di adattare in tempo reale i movimenti e le emozioni a quelle degli utenti. Ma, al di là dell’uso in ambito game play, il facial emotion recognition pone delle questioni da non sottovalutare

15 Set 2022
Lorenza Saettone

Filosofa specializzata in Epistemologia e Cognitivismo, PhD Student in Robotics and Intelligent Machines for Healthcare and Wellness of Persons

roblox-avatar-real-time-facial-recognition

Roblox è sicuramente tra i giochi più citati negli ultimi anni. È stato un rifugio virtuoso, un luogo covid-free dove incontrarsi durante la pandemia; uno strumento per incentivare una possibile carriera nella game industry dato che tra le funzioni c’è quella di potersi creare il proprio gioco; un videogame capace di attirare il pubblico femminile, per lo più escluso dalle proposte tripla A, relegato ai mobile game di arredamento; non ultimo rappresenta l’esempio classico per capire a cosa somiglierà il Metaverso.

Ultimamente il gioco continua a far parlare di sé grazie all’annuncio di un futuro upgrade, legato alle espressioni esibite dagli avatar. Scopriamo di cosa si tratta.

Roblox real time face animation for avatars

Gli avatar si adattano alle emozioni degli utenti

Sfruttando l’intelligenza artificiale, gli avatar saranno in grado di adattare in tempo reale i movimenti e le emozioni a quelle degli utenti. Oggi ogni “sé distale” ha disponibile una faccia soltanto, tutt’al più è possibile comprare dallo shop altre espressioni, ma l’esperienza non è di certo ottimale. Ovviamente le smorfie gratuite sono sorridenti e questo è piuttosto riduttivo, a maggior ragione che la personalizzazione non ricalca la socio-diversità del significato del sorriso e il fatto che l’energia positiva è una scelta, a mio avviso, piena di stereotipi fastidiosi.

WHITEPAPER
La RPA in 9 step: da dove si comincia?
Intelligenza Artificiale
Realtà virtuale

Come ha dichiarato il vicepresidente del prodotto presso Roblox, Book-Larsson, gli “avatar emotivi” arriveranno tra più di un anno perché il team sicurezza sta ancora testando ogni possibile falla, ogni uso improprio. Ad esempio, la lingua di fuori potrebbe facilmente diventare una mimica impiegata a sfondo sessuale. Nulla deve essere lasciato a sé stesso, senza aver come minino cercato di prevedere l’impensabile, quasi a sfiorare la paranoia. Il progetto è sicuramente interessante, l’intelligenza artificiale e il facial emotion recognition renderebbero più immersiva l’interazione utente-avatar, ma non siamo certi che i rischi oltrepassino i benefici?

Studenti preda dell’”emotion recognition”: il pericolo viene dalla Cina

VmagicMirror, VseeFace e Tokkingheads

Già da tempo è possibile usare software con cui animare gli avatar attraverso la propria mimica. VmagicMirror sfrutta un sistema interessante per muovere il personaggio scelto, permettendo all’utente di fare streaming senza che siano necessarie particolari skill informatiche. Basta caricare il modello del disegno scelto e avere mic e telecamera. Una app simile è VseeFace, una delle preferite dai Vtubers. Si tratta del fenomeno degli streamer che invece di presentarsi con la propria faccia scelgono personaggi anime di vario tipo. Avevo un’alunna del liceo artistico che oltre a essere un Vtuber creava avatar per altri sfruttando diversi software. Fu lei a rivelarmi per prima l’esistenza di questo mondo. In effetti con VseeFace gli avatar seguono benissimo la mimica umana e i gesti delle mani, trasformando le live in simil cartoni animati e videogame di grande effetto.

Tokkingheads, invece, è un’applicazione che utilizza il machine learning per mappare i tratti del volto e costruire in tempo reale la mimica dell’avatar scelto all’interno del repository, da personaggi inventati a vip. Con questo strumento si possono ottenere video fake di qualità piuttosto alta.

La questione della privacy nell’ambiente virtuale

La comunicazione umana si basa per lo più sul corpo e così qualunque aspetto della cognizione. In effetti è ormai largamente abbandonato l’assunto cartesiano (declinato secondo diverse sostanze più o meno idealiste) secondo cui coincidiamo solo con qualcosa di collocato all’interno della nostra scatola cranica. I pensieri, al contrario, sono il risultato dell’interazione tra cervello, corpo e ambiente fisico, relazionale, culturale. Ecco che accompagnare l’avatar con le nostre espressioni potrebbe aumentare la percezione di essere davvero nelle isole virtuali, migliorando comprensione ed esperienza di gioco (e presto di vita).

L’ambiente virtuale dovrà tuttavia assicurare prima di ogni altra cosa privacy, diritti, sicurezza a ogni tipologia di utente. Potrebbe essere concessa ai gamer la scelta di entrare in spazi più o meno liberi, sottoscrivendo una lista di possibilità espressive all’ingresso, un po’ come un codice etico da rispettare. Ogni creator deciderebbe in modo simile a come già avviene su Discord il proprio set of rules, lasciando spazi di attività più o meno laschi a seconda del fine che si vuole ottenere.

Oltretutto il riconoscimento facciale sarebbe in grado di identificare al volo i rei, contribuendo a regolamentare una specie di social scoring nel metaverso, per cui chi fosse colpevole e addirittura recidivo potrebbe essere punito all’istante e bannato per un certo lasso di tempo.

Le questioni inquietanti su cui riflettere

Tuttavia, questo modo di agire mi fa tremare di fronte a un suo utilizzo più vasto, al di là del game play. A maggior ragione che l’obiettivo potrà essere quello di ampliare questi sandbox e open world all’esistenza onlife, sostituendo i social network e i siti così come li conosciamo oggi. Una violazione sciocchina potrebbe assegnare un punteggio, scremando l’accesso a qualche corso di laurea? Potrebbe regolamentare la richiesta di prestiti, facendo capitombolare il troll al fondo della lista? Il Super Ego freudiano non avrebbe più le sembianze del genitore, del dio e dell’Io ideale, bensì quelle di un avatar geometrico: davvero inquietante a mio avviso.

Inoltre, i minori potrebbero essere bloccati da zone di Roblox più aperte alla violenza e alla molestia – insomma la libertà per loro sarebbe sospesa fino alla maggiore età. Ma quale maggiore età? Bisognerebbe conoscere il luogo di residenza? Con le VPN questo blocco è facilmente aggirabile. Non solo, siamo certi che sia così preciso il modello di IA da identificare una differenza di una manciata di anni?

Quando con Scuola di Robotica insegno l’intelligenza artificiale ai ragazzi delle scuole utilizzo sistemi come MBlock in cui è possibile aggiungere estensioni basate sul machine learning. Il mio obiettivo è stimolare il pensiero critico, chiarendo il funzionamento di queste tecnologie che già popolano la nostra esistenza, condizionandola in modo virtuoso o in modo nefasto. A volte scelgo i modelli già implementati nella web app, come quelli di riconoscimento anagrafico, così da chiarire tutti i possibili problemi che si dipanano dagli errori di questi sistemi automatizzati.

(Lo dichiaro senza umiltà alcuna) i modelli di ML di MBlock mi danno sempre una decina di anni di meno, mentre i bambini e i ragazzini vengono dichiarati dal sistema con almeno cinque anni in più. Cosa può significare questo per la “vita vera” (perdonatemi questa espressione da “filosofia-della-strada”)?

Conclusioni

Conoscendo come funzionano questi sistemi mi pongo inevitabilmente delle domande. Per quanto Roblox possa assicurare modelli migliori, non credo che possa distinguere un quattordicenne da un sedicenne. Non riusciamo a farlo noi esseri umani e dubito che una IA possa mai identificare al volo l’età senza chiedere i documenti. Tra l’altro non vedo perché Roblox debba avere accesso a dati sensibili come quelli di un documento personale, inoltre implementare il riconoscimento facciale è sempre una questione spinosa, sul filo dell’abuso.

Tra l’altro il facial emotion recognition potrebbe essere esteso ad altri usi, diventando uno strumento con cui proporre, per esempio, isole adatte all’emozione rilevata, con tutto quello che comporterebbe, dai bias alla manipolazione.

Insomma, staremo a vedere le scelte che adotteranno gli sviluppatori di Roblox e se mai gli avatar saranno come dei riflessi dello specchio. Chissà, un giorno o l’altro un personaggio invecchierà al posto nostro, oppure, in ottica di romanzo distopico, se vivremo totalmente nel Metaverso, come Dorian viveva tra i salotti con la sua carne e le sue ossa, noi chiederemo ciò che già succede: invecchiare al posto degli avatar, perché quelli saranno la nostra identità sociale. Questo, allora, non sarà biologicamente magico, ma sicuramente sarà tristemente vero.

@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articolo 1 di 4