Salute

I chat bot crescono in Sanità, ci sono vantaggi ma anche rischi

Il Watson Assistant della IBM è stato il precursore della nuova generazione di chatbot. Che continuano a diffondersi. Dove si utilizzano, come funzionano, gli impatti dei chatbot relazionali sulla salute

13 Apr 2022
Domenico Marino

Università Degli Studi Mediterranea di Reggio Calabria

watson - chatbot

Watson è un chatbot, o, più precisamente, un Question answering computing system, cioè un computer che, utilizzando un’intelligenza artificiale, è in grado di rispondere direttamente a delle domande fatte dall’uomo.

Chatbot per la PA: l’esperienza del Piemonte

Oggi Watson Assistant è una storia di successo per IBM-International Business Machine, la società che deve il proprio nome all’amministratore delegato Thomas Watson.

Watson Assistant è stato lanciato nel 2006, a seguito della decisione di uscire dal mercato del pc per dedicarsi ai supercomputer e all’IT: il progenitore di questa classe di computer è diventato famoso perché nel 2010 è riuscito a battere i concorrenti di un programma di quiz.

I primi chatbot erano programmati con una serie predeterminata di domande e risposte, ma questo portava a vicoli ciechi se il software non capiva le domande e l’utente rimaneva facilmente sconcertato e deluso.

È stato subito chiaro che un approccio rigido di domande e risposte, anche se ideale per un gioco a premi, era troppo limitato per soddisfare le necessità di un servizio clienti.

I chatbot di un servizio clienti devono essere meno robotiche, più intelligenti, più discorsivi, più umani e, soprattutto, più utili. La sfida è quella di creare un software che possa determinare in maniera esatta il bisogno e il problema da risolvere dell’utente.

I chatbot tra servizio clienti e assistenza sanitaria

La General Motor aveva programmato un chatbot rudimentale che si limitava a fornire risposte preconfezionate. Nel 2019 ha cominciato a lavorare con IBM per sviluppare un chatbot interattivo.

WHITEPAPER
Robot intelligenti: i vantaggi nei progetti di automazione nell'Industry4.0
Industria 4.0
Realtà virtuale

Il chatbot, chiamato Nanci, appena reso operativo era in grado di risolvere meno del 10 per cento delle richieste dei clienti, ma dopo due mesi il tasso di successo è salito al 50 per cento, per attestarsi a regime al 60 per cento.

Come effetto di questi miglioramenti, General Motor ha potuto dismettere il suo call center di 700 persone e ha costruito, con un numero inferiore di addetti, un servizio avanzato e dedicato solo ai casi più difficili.

Il mercato dei chatbot per il servizio clienti è in rapida crescita: si prevede un tasso di aumento del 15% e un valore complessivo maggiore di 7 miliardi di dollari nel 2022.

Un altro campo importante di applicazione dei chatbot è quello sanitario.

Il chatbot Watson, ad esempio, è utilizzato da Anthem, tra i maggiori produttori di servizi assicurativi in campo sanitario degli Stati Uniti.

Il chatbot viene utilizzato sia per dare informazioni amministrative sulle polizze, sia per dispensare consigli sanitari.

I chatbot evoluti nell’assistenza sanitaria devono esser in grado di: monitorare il comportamento e gli stati d’animo del paziente, garantire la privacy, dare consigli personalizzati, essere in grado di acquisire dati da applicazioni di monitoraggio da sensori mobili, utilizzare, se necessario il riconoscimento facciale e interagire sia istantaneamente con risposte immediate, sia in seguito con notifiche e promemoria.

Watson è perfettamente in grado di svolgere in maniera efficiente tutte queste funzioni.

Vi sono infine dei chatbot che forniscono assistenza per la salute mentale e sono anche addestrati per fornire una prima forma di terapia cognitivo-comportamentale.

Woebot: il chatbot terapista

Woebot è un chatbot terapeutico che possiamo tranquillamente scaricare e che permette di simulare il divano di uno psicoterapeuta attraverso lo schermo di uno smartphone.

L’app, rilasciata nel 2017, si presenta come una sorta di terapista digitale, che può sostituire quello reale in caso di impossibilità ad usufruirne, per semplici contingenze logistiche o motivi economici. Il numero dei suoi utenti sta crescendo esponenzialmente, come come le app che curano la salute mentale digitale e che oggi possono essere quantificate in una cifra superiore a 10.000.

Woebot utilizza l’intelligenza artificiale per realizzare, attraverso un approccio psicoanalitico di tipo cognitivo-comportamentale, delle terapie contro l’ansia e la depressione.

La terapia cognitivo comportamentale è basata su un approccio che cerca di aiutare le persone a identificare il loro modo distorto di pensare, aiutandoli a capire come ciò influenzi il loro comportamento in modo negativo. Con il cambiamento di questi schemi autodistruttivi, i terapeuti tentano di curare i sintomi della depressione e dell’ansia.

Woebot apprende continuamente da tutti coloro con cui entra in contatto ed in grado di elaborare un linguaggio e una conversazione naturali che tengono conto anche delle sessioni passate. Woebot chiede all’utente che gli venga dedicata almeno una sessione giornaliera di conversazione.

I rischi dei chatbot relazionali

Con l’utilizzo di app come Woebot, che non si limitano a rivelare emozioni umane, ma che hanno anche la possibilità di interagire in maniera dinamica e relazionale con l’essere umano si possono, ad esempio, ottenere risultati nella terapia per le diverse forma di autismo: ma queste app presentano due grossi rischi.

Il primo è legato alla necessità di una tutela molto forte dei dati sensibili che vengono scambiati attraverso queste app. Dati che devono essere molto più protetti dei pur sensibilissimi dati sanitari, perché riguardano la sfera emotiva ed emozionale degli individui.

Il secondo rischio è che queste applicazioni, basate sull’intelligenza artificiale, possano divergere dal loro utilizzo programmato e diventare potenzialmente molto pericolose.

Infatti, potrebbero sviluppare dei bias che portano a rendere patologica l’interazione con gli esseri umani e, se in mano a soggetti deboli psicologicamente, potrebbero condizionare i loro comportamenti al punto da portarli a compiere gesti estremi.

Un software emozionale potrebbe anche arrivare a consigliare il suicidio ad una persona fortemente depressa o, se, opportunamente programmato, potrebbe anche trasformare un individuo psicologicamente debole in un serial killer.

Se, quindi, oggi i chatbot per gestire un servizio clienti o per fornire assistenza sanitaria hanno una grande precisione e attendibilità, perché possono rilevare molto bene i bisogni e i comportamenti umani, i chatbot relazionali ed emozionali, come Woebot, sono ancora molto rozzi e devono essere molto affinati prima di poterli utilmente e senza rischi utilizzare su larga scala.

Digital event
Torna il Cybersecurity 360 Summit strategia nazionale di cybersicurezza. Online, 27 ottobre
Sicurezza
Sicurezza dei dati
@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articolo 1 di 3