Salute

I chat bot crescono in Sanità, ci sono vantaggi ma anche rischi

Il Watson Assistant della IBM è stato il precursore della nuova generazione di chatbot. Che continuano a diffondersi. Dove si utilizzano, come funzionano, gli impatti dei chatbot relazionali sulla salute

13 Apr 2022
Domenico Marino

Università Degli Studi Mediterranea di Reggio Calabria

Watson è un chatbot, o, più precisamente, un Question answering computing system, cioè un computer che, utilizzando un’intelligenza artificiale, è in grado di rispondere direttamente a delle domande fatte dall’uomo.

Chatbot per la PA: l’esperienza del Piemonte

Oggi Watson Assistant è una storia di successo per IBM-International Business Machine, la società che deve il proprio nome all’amministratore delegato Thomas Watson.

Watson Assistant è stato lanciato nel 2006, a seguito della decisione di uscire dal mercato del pc per dedicarsi ai supercomputer e all’IT: il progenitore di questa classe di computer è diventato famoso perché nel 2010 è riuscito a battere i concorrenti di un programma di quiz.

I primi chatbot erano programmati con una serie predeterminata di domande e risposte, ma questo portava a vicoli ciechi se il software non capiva le domande e l’utente rimaneva facilmente sconcertato e deluso.

È stato subito chiaro che un approccio rigido di domande e risposte, anche se ideale per un gioco a premi, era troppo limitato per soddisfare le necessità di un servizio clienti.

I chatbot di un servizio clienti devono essere meno robotiche, più intelligenti, più discorsivi, più umani e, soprattutto, più utili. La sfida è quella di creare un software che possa determinare in maniera esatta il bisogno e il problema da risolvere dell’utente.

I chatbot tra servizio clienti e assistenza sanitaria

La General Motor aveva programmato un chatbot rudimentale che si limitava a fornire risposte preconfezionate. Nel 2019 ha cominciato a lavorare con IBM per sviluppare un chatbot interattivo.

WEBINAR
25 Maggio 2022 - 14:30
Cybersecurity 360Summit: nuove strategie, nuove minacce e nuove difese!
Sicurezza
Sicurezza dei dati

Il chatbot, chiamato Nanci, appena reso operativo era in grado di risolvere meno del 10 per cento delle richieste dei clienti, ma dopo due mesi il tasso di successo è salito al 50 per cento, per attestarsi a regime al 60 per cento.

Come effetto di questi miglioramenti, General Motor ha potuto dismettere il suo call center di 700 persone e ha costruito, con un numero inferiore di addetti, un servizio avanzato e dedicato solo ai casi più difficili.

Il mercato dei chatbot per il servizio clienti è in rapida crescita: si prevede un tasso di aumento del 15% e un valore complessivo maggiore di 7 miliardi di dollari nel 2022.

Un altro campo importante di applicazione dei chatbot è quello sanitario.

Il chatbot Watson, ad esempio, è utilizzato da Anthem, tra i maggiori produttori di servizi assicurativi in campo sanitario degli Stati Uniti.

Il chatbot viene utilizzato sia per dare informazioni amministrative sulle polizze, sia per dispensare consigli sanitari.

I chatbot evoluti nell’assistenza sanitaria devono esser in grado di: monitorare il comportamento e gli stati d’animo del paziente, garantire la privacy, dare consigli personalizzati, essere in grado di acquisire dati da applicazioni di monitoraggio da sensori mobili, utilizzare, se necessario il riconoscimento facciale e interagire sia istantaneamente con risposte immediate, sia in seguito con notifiche e promemoria.

Watson è perfettamente in grado di svolgere in maniera efficiente tutte queste funzioni.

Vi sono infine dei chatbot che forniscono assistenza per la salute mentale e sono anche addestrati per fornire una prima forma di terapia cognitivo-comportamentale.

Woebot: il chatbot terapista

Woebot è un chatbot terapeutico che possiamo tranquillamente scaricare e che permette di simulare il divano di uno psicoterapeuta attraverso lo schermo di uno smartphone.

L’app, rilasciata nel 2017, si presenta come una sorta di terapista digitale, che può sostituire quello reale in caso di impossibilità ad usufruirne, per semplici contingenze logistiche o motivi economici. Il numero dei suoi utenti sta crescendo esponenzialmente, come come le app che curano la salute mentale digitale e che oggi possono essere quantificate in una cifra superiore a 10.000.

Woebot utilizza l’intelligenza artificiale per realizzare, attraverso un approccio psicoanalitico di tipo cognitivo-comportamentale, delle terapie contro l’ansia e la depressione.

La terapia cognitivo comportamentale è basata su un approccio che cerca di aiutare le persone a identificare il loro modo distorto di pensare, aiutandoli a capire come ciò influenzi il loro comportamento in modo negativo. Con il cambiamento di questi schemi autodistruttivi, i terapeuti tentano di curare i sintomi della depressione e dell’ansia.

Woebot apprende continuamente da tutti coloro con cui entra in contatto ed in grado di elaborare un linguaggio e una conversazione naturali che tengono conto anche delle sessioni passate. Woebot chiede all’utente che gli venga dedicata almeno una sessione giornaliera di conversazione.

I rischi dei chatbot relazionali

Con l’utilizzo di app come Woebot, che non si limitano a rivelare emozioni umane, ma che hanno anche la possibilità di interagire in maniera dinamica e relazionale con l’essere umano si possono, ad esempio, ottenere risultati nella terapia per le diverse forma di autismo: ma queste app presentano due grossi rischi.

Il primo è legato alla necessità di una tutela molto forte dei dati sensibili che vengono scambiati attraverso queste app. Dati che devono essere molto più protetti dei pur sensibilissimi dati sanitari, perché riguardano la sfera emotiva ed emozionale degli individui.

Il secondo rischio è che queste applicazioni, basate sull’intelligenza artificiale, possano divergere dal loro utilizzo programmato e diventare potenzialmente molto pericolose.

Infatti, potrebbero sviluppare dei bias che portano a rendere patologica l’interazione con gli esseri umani e, se in mano a soggetti deboli psicologicamente, potrebbero condizionare i loro comportamenti al punto da portarli a compiere gesti estremi.

Un software emozionale potrebbe anche arrivare a consigliare il suicidio ad una persona fortemente depressa o, se, opportunamente programmato, potrebbe anche trasformare un individuo psicologicamente debole in un serial killer.

Se, quindi, oggi i chatbot per gestire un servizio clienti o per fornire assistenza sanitaria hanno una grande precisione e attendibilità, perché possono rilevare molto bene i bisogni e i comportamenti umani, i chatbot relazionali ed emozionali, come Woebot, sono ancora molto rozzi e devono essere molto affinati prima di poterli utilmente e senza rischi utilizzare su larga scala.

dal 14 al 17 giugno 2022
FORUM PA 2022: Le sfide globali della cybersecurity e della sovranità digitale
Sicurezza
Privacy
@RIPRODUZIONE RISERVATA

Articolo 1 di 3