bot interattivi

Google duplex, quali conseguenze etiche e sociologiche se l’intelligenza artificiale si spaccia per umano

Il sistema di intelligenza artificiale Duplex di Google è una tecnologia sofisticata e dalle impressionanti capacità di comprensione del linguaggio, tanto da riuscire a ingannare un interlocutore umano. Ecco perché ha sollevato un vespaio di polemiche e quali sono le principali conseguenze etiche e sociologiche

14 Mag 2018
Davide Bennato

professore di Sociologia dei media digitali all’Università di Catania

shutterstock_728204470

Quando qualche giorno fa Sundar Pichai – CEO di Google Inc. – ha mostrato le impressionanti capacità di comprensione del linguaggio di Duplex, era evidente dal suo sguardo che tratteneva a stento la soddisfazione nel presentare una tecnologia così sofisticata, e da bravo ingegnere aveva ben chiaro che il traguardo raggiunto era assolutamente importante. Ma come tutte le persone che si lasciano prendere dall’interesse verso la tecnologia (e meno dalle conseguenze comunicative e sociali) non poteva immaginare il vespaio che avrebbe sollevato.

Cos’è Google Duplex

La situazione è la seguente. Alla recente conferenza per sviluppatori Google I/O, Pichar ha mostrato una nuova tecnologia del sistema Google Assistant, chiamata Google Duplex, che consiste in una intelligenza artificiale in grado di riconoscere il linguaggio naturale e che riesce ad interagire con una persona, senza che quest’ultima si accorga di stare interagendo con un dispositivo artificiale. Il test mostrato per evidenziare le potenzialità di Duplex, sono state due telefonate fatte dall’intelligenza artificiale: in una per fissare un appuntamento da un parrucchiere per un taglio di capelli, in un’altra per prenotare un tavolo ad un ristorante. La cosa che ha impressionato l’uditorio – ed ha fatto sollevare gridolini di ammirazione – è stato che non solo Duplex comprendeva le domande che le venivano rivolte, ma che interagiva con una voce umana in grado di simulare anche i suoni che esprimevano pause e attesa (ovvero i segnali discorsivi di assenso), ingannando la persona dall’altro capo del telefono.

WHITEPAPER
Contact Center, AI e Real Time Analytics: stai adottando l’innovazione in modo corretto?
Big Data
CRM

Ed è proprio questo punto che ha fatto sollevare un coro di critiche da parte di diversi studiosi come Zeynep Tufekci (sociologia esperta di tecnologie emergenti dell’Università del Nord Carolina), Thomas King (ricercatore del Digital Ethics Lab dell’Oxford Internet Institute), Erik Brynjolfsson (professore alla MIT Sloan School of Management): l’inganno. (tanto che Google ha poi annunciato che avviserà l’utente se la telefonata è fatta dall’intelligenza artificiale).

Per quale motivo? Perché un’intelligenza artificiale che inganna un interlocutore umano ha due importanti conseguenze: etiche e sociologiche.

Le conseguenze etiche e sociologiche

La prima conseguenza è che siamo sulla strada verso un’intelligenza artificiale in grado di superare il test di Turing. Con questo nome si definisce un test – ideato da Alan Turing (per intenderci il matematico interpretato da Benedict Cumberbatch nel film di Morten Tyldum “The Imitation Game”) secondo cui se da una serie di interazioni non è possibile riconoscere un essere umano da una macchina, vuol dire che la macchina è intelligente.

Questa definizione di intelligenza artificiale – una macchina è intelligente se inganna un essere intelligente – è stata pesantemente criticata da filosofi, sociologi e psicologi, ma ha sempre suscitato un certo fascino per coloro i quali si occupano di tecnologie avanzate. L’idea è talmente forte che il famoso test di Voight-Kampff – il test che serve per decidere se un essere sia un uomo o un replicante – rappresentato nel film “Blade Runner” di Ridley Scott è stato ispirato da Philip Dick proprio dal test di Turing. Una macchina che imita un essere umano è rischiosa dal punto di vista etico perché se una macchina può superare un test di Turing, non è detto che un essere umano lo superi. Detto altrimenti: una macchina intelligente può (quasi) sempre superare il test, mentre una persona è possibile che non ne sia in grado. Prima che sembri uno scenario da film di fantascienza si consideri questi due esempi.

Il paradosso dei Captcha

Un sistema – classico – per verificare se a compilare un modulo su internet sia un uomo o un bot sono i famosi CAPTCHA, ovvero quegli strani test in cui siamo chiamati a riconoscere una parola, a identificare delle immagini o a svolgere altri tipi di micro-task in modo che il sistema sia in grado di distinguere una persona da un bot. Come tutti sanno, i CAPTCHA hanno un pulsante che consente di ricaricare la parola o l’immagine perché esistono delle condizioni fisiche – come il forte astigmatismo o il daltonismo – per cui alcune persone potrebbero non superare il test. In pratica i CAPTCHA potrebbero avere dei falsi positivi: uomini identificati come macchine e viceversa. Questa cosa è ancora più curiosa se si considera il fatto che CAPTCHA è l’acronimo di: Completely Automated Public Turing-test-to-tell Computers and Humans Apart, ovvero Test di Turing pubblico e completamente automatico per distinguere computer e umani.

La telefonata di Goole Duplex al ristorante

C’è un altro esempio da prendere in considerazione: la telefonata fatta da Google Duplex alla al ristorante. Se ascoltate con attenzione la conversazione, noterete che mentre l’intelligenza artificiale si trova perfettamente a proprio agio durante la conversazione, tanto da ripetere più volte le informazioni necessarie e specificarle, la persona dall’altra parte del telefono non comprende alcuni passaggi chiave – il numero delle persone, la data per quando è necessaria la prenotazione.

Detto altrimenti, nella conversazione fra Duplex e la persona del ristorante, è quest’ultima a sembrare un essere artificiale perché non capisce cosa le sta dicendo il software di Google. Forse perché non conosce bene l’inglese (immigrata? Persona di un quartiere povero?) oppure semplicemente perché la linea è disturbata, oppure è distratta da qualcosa: non lo sappiamo. Ma una cosa la capiamo benissimo: la performance telefonica della ragazza del ristorante è peggiore di quella del sistema di intelligenza artificiale.

Gli aspetti sociologici da non sottovalutare

E qui giungiamo alla seconda conseguenza: quella sociologica. Un bot automatico come Duplex, che ricordiamo fa parte della suite di Google Assistant, introduce nella nostra vita sociale un soggetto completamente nuovo, i bot automatici e interattivi. La società del XIX secolo era caratterizzata da quattro tipologie di agenti sociali: persone, coppie, gruppi, collettività. Adesso in questa tassonomia sono entrate a far parte una nuova famiglia di soggetti sociali: i dispositivi artificiali automatici.

Non importa se sono algoritmi che funzionano dentro piattaforme digitali, robot autonomi come quelli della Boston Dynamics o bot disincarnati come Siri o Duplex. L’idea è che in quanto tecnologie in grado di interagire autonomamente con l’ambiente circostante, interferiscono con le persone e con le loro interazioni sociali. Per questo è necessario che una persona capisca che sta interagendo con una intelligenza artificiale, perché in questo modo si innescano delle aspettative di interazione che fanno si che la persona possa riconfigurare il suo comportamento. Se noi siamo al telefono con una persona, ci comportiamo in un certo modo, ma se noi sappiamo che al telefono c’è un sistema artificiale ovviamente il nostro comportamento sarà necessariamente diverso. Nel momento in cui ciò non dovesse più accadere – ovvero trattare al telefono allo stesso modo persone o macchine – non vuol dire che avremo trattato le macchine in maniera umana, ma più probabilmente potrebbe voler dire che avremmo cominciato a trattare le persone come macchine.

Nel famoso film di Spike Jonze “Her”, Joaquin Phoenix decide di innamorarsi di una intelligenza artificiale priva di corpo che ha la voce di Scarlett Johansson perché la sente vicina emotivamente e umanamente. È una scelta, ed è lecito che una persona decida coscientemente di innamorarsi di un software. Il problema potrebbe sorgere se le persone cominciano a innamorarsi di intelligenze artificiali senza rendersi conto che lo siano.

Innamorarsi coscientemente di un sistema artificiale è libertà, innamorarsi di un sistema artificiale senza conoscerne la natura è violenza.

@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
Salute digitale
Formazione
Analisi
Sostenibilità
PA
Sostemibilità
Sicurezza
Digital Economy
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati