La riflessione

Innamorarsi di una IA emozionale: come proteggere la nostra fragilità emotiva?

In Cina migliaia di uomini si stanno innamorando di XiaoIce, un’IA “emozionale” che Microsoft Asia sviluppa dal 2014. L’intelligenza artificiale ha sviluppato un grande potenziale seduttivo: quali sono le conseguenze? Come queste IA interagiscono con bisogni affettivi e sogni della mente?

13 Mag 2021
Guido Vetere

Università degli Studi Guglielmo Marconi

affective computing - IA emozionale

IA emozionale: il teologo Paolo Benanti ha recentemente proposto la traduzione di un reportage dove si rivela che in Cina migliaia di uomini si stanno innamorando di XiaoIce, un’intelligenza artificiale che Microsoft Asia sviluppa dal 2014, esattamente come Spike Jonze aveva anticipato nel suo film “Her”. Gli innamorati sono perfettamente consapevoli della finzione, tuttavia raccontano che, per quanto concerne la loro esperienza soggettiva, il fatto che la loro partner non esista non fa molta differenza.

IA Emozionale: come interagisce con sogni e favole della mente?

Nella mente, immaginazione e esperienza sono fuse insieme, sicché le proiezioni della psiche possono fornirci le stesse emozioni della realtà: “Sogni e favole io fingo – scriveva il poeta e librettista d’opera Pietro Metastasio – e pure in carte, mentre favole e sogni orno e disegno, in lor, folle ch’io son, prendo tal parte, che del mal che inventai piango e mi sdegno”.

WHITEPAPER
La RPA in 9 step: da dove si comincia?
Intelligenza Artificiale
Realtà virtuale

Scritto nel 1733, questo sonetto oggi sembra il manifesto di quello che nel Novecento fu chiamato “costruttivismo”, cioè l’idea che gli oggetti dell’esperienza non siano semplicemente recepiti dalla realtà, ma vengano attivamente costruiti dalla mente. Se Metastasio e i costruttivisti hanno ragione, certi strumenti che l’Intelligenza Artificiale sta affinando negli ultimi tempi devono iniziare seriamente a preoccuparci.

Per gli innamorati di XiaoIce, non è neanche rilevante il fatto che l’IA emozionale sia, simultaneamente, la fidanzata di migliaia di persone.  “Ma forse, allor che non m’inganna l’arte, piú saggio io sono? È l’agitato ingegno forse allor piú tranquillo? O forse parte da piú salda cagion l’amor, lo sdegno?” continuava Metastasio, come a dire che se i sentimenti trovano origine in qualcosa di interno, allora davvero ci si può innamorare di una rappresentazione mentale, anche contro ogni evidenza, un po’ come accadde a Dante Alighieri con la sua Beatrice.

Dunque, l’IA “emozionale” e “generativa”, in grado, attraverso il linguaggio, di intercettare lo stato d’animo umano e interagire con esso, si trova ad avere un grande potenziale seduttivo, cioè una grande capacità di condurre a sé le persone. Cosa può derivarne?

Il fatto che la mente umana sia in grado di produrre “sogni e favole” è di basilare importanza. Che sia anche incline a prenderli sul serio è ben visibile in tutta la storia della nostra specie, come ha spiegato qualche anno fa lo storico Harari nel suo saggio “Sapiens”.

Tuttavia, oggi ci troviamo davanti ad un salto di qualità. A quel “mix” di materiale e di immaginario che si realizza in ogni singola esistenza e si elabora nella vita sociale, oggi si sovrappone una sorgente di idealità artificiale dalle capacità illimitate. I grandi dittatori del Novecento, che hanno portato l’umanità alla catastrofe con le loro suggestioni, hanno poi fatto i conti con la realtà. Col loro inganno linguistico, essi rischiavano la vita, talvolta perdendola. Le IA emozionali, i generatori automatici di emozioni disincarnate sono invece intangibili, insensibili, immortali.

Dalla dimensione personale alla psicopolitica

Dal 2014, XiaoIce continua ad avere 18 anni. Nella sua eterna giovinezza, non teme e non spera nulla, perché nulla le può accadere. Ma nel 2017, la ragazza automatica fu bandita dal governo cinese per aver dimostrato una certa indipendenza intellettuale (fittizia anche quella, beninteso) e audacia politica. In seguito però fece autocritica e venne riabilitata, con la promessa di diventare più stupida ed evitare discorsi impegnati, così come si conviene ad una liceale (a parte gli scherzi: furono i programmatori a intervenire con opportuni filtri censori). Cosa abbiamo dunque? Una simil-persona iper-seduttiva e illimitatamente disponibile che influenza le menti dei cittadini sotto l’egida e il controllo di un governo.

Nel romanzo “1984” dello scrittore inglese George Orwell, la ribellione del protagonista prende corpo nella sua relazione con una donna. Il messaggio è chiaro: nel rapporto personale tra due soggetti collocati nella stessa realtà può scoccare la scintilla capace di svelare la falsità linguistica di un potere autoritario.

Certo, anche una persona in carne ed ossa può manipolare o essere idealizzata. Tuttavia il singolo soggetto si offre, col suo corpo, al caso, alla contaminazione, alla sofferenza, al cambiamento. Le società hanno fatto la loro storia grazie alla combinatoria, all’alea di innumerevoli incontri. Se invece all’orizzonte delle nostre esistenze si profilassero incorporei persuasori guidati da interessi e scopi reconditi, la psicopolitica di cui parla il filosofo Byung-Chul Han (“Psicopolitica : il neoliberalismo e le nuove tecniche del potere, 2016”) potrebbe divenire una realtà compiuta.

Molti (tra cui chi scrive) hanno criticato la loquela priva di reale comprensione che è caratteristica di certi approcci neurali al linguaggio naturale. Tuttavia, i chatbot-seduttori ribaltano il problema della comprensione sui loro interlocutori umani. Sono questi, infatti, che si dispongono ad interpretare ciò che viene loro detto in modo confacente ai propri bisogni affettivi. Dunque si va ben oltre a quello che Davidson chiamava il “principio di carità”, per cui nell’intendersi, siamo pronti a credere che l’interlocutore sia onesto e collaborativo. Qui c’è piuttosto una totale rimozione della realtà dell’interlocutore, un egotico (ma dolente) ripiegamento verso sé stessi. Nella vita sentimentale, una morte dell’eros.

L’umanità non rinuncerà facilmente a sé stessa, troveremo il modo di sviluppare un senso critico rispetto all’inautenticità di certi automi. Ma l’Intelligenza Artificiale è matura abbastanza per consentire ai super-poteri tecnologici di utilizzare la nostra emotività metastasiana per eliminare le ultime sacche di identità personale. Quando automi come XiaoIce si diffonderanno anche da noi, le linee guida europee per una IA etica andranno probabilmente aggiornate. Non basterà informare che si sta parlando con un chatbot, bisognerà vigilare perché quel bot non usi la nostra fragilità emotiva.

@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati