intelligenza artificiale

Il robot che suggeriva troppo: i problemi e i vantaggi del “nudging” applicato all’IA

Le “spinte gentili” del nudging servono a indurre qualcuno a scegliere una strada piuttosto che un’altra. Ma cosa succede quando sono le macchine o i robot sociali a suggerirci delle cose? Dovrebbero esserci dei limiti? E chi li stabilisce?

Pubblicato il 07 Nov 2022

Valeria Martino

post-doc presso l’Università di Torino

robotbimbo

Le macchine, a diversi livelli – che si tratti dell’interfaccia di un sito web, di un assistente vocale come Siri, Alexa o Cortana, di una chatbot o di un vero e proprio robot sociale – ci suggeriscono delle cose: “potresti provare anche questo”, “se ti è piaciuto questo, allora…”, “gli altri utenti hanno scelto questo”, e così via.

Al di là dei problemi di privacy che sorgono (dal momento che i suggerimenti dipendono dai dati individuali raccolti), una questione interessante sollevata dall’EGE (2018) consiste nel chiedersi se dovrebbero esserci dei limiti a questo fenomeno: dovrebbero esserci delle cose che le macchine non possono suggerirci? Chi stabilisce questi limiti? E sulla base di cosa?

Nudge Platform: AI powered behavioural orchestration of lines of communication

Nudge Platform: AI powered behavioural orchestration of lines of communication

Guarda questo video su YouTube

La teoria della “spinta gentile” e l’influenzabilità dell’essere umano

Queste domande possono essere declinate in diversi modi: il più semplice, forse, riguarda i limiti dei suggerimenti pubblicitari. Noto è stato il caso di una donna che ha pubblicato un articolo sul Washington Post per diffondere la sua triste storia: dopo aver perso il bambino quasi alla fine della gravidanza, le varie piattaforme che utilizzava continuavano a mostrarle pubblicità legate alla nascita e all’accudimento dei bambini, contribuendo ad amplificare il suo dolore (Brockell 2018).

Con un significato un po’ diverso, un caso interessante a questo proposito, è quello del nudging e della sua applicazione all’IA. La cosiddetta nudge theory (Thaler & Sunstein 2008) si inserisce nell’ambito dell’architettura della scelta e consiste in tutte quelle “spintarelle”, come dice il nome stesso, che servono a indurre qualcuno a scegliere una strada piuttosto che un’altra. Un esempio banale: mettere il cibo salutare all’altezza degli occhi, dove è più visibile e quindi sarà più facilmente scelto dal cliente del negozio o della mensa.

L’idea, infatti, è che queste spinte debbano essere verso il meglio, e dunque non avere scopi malevoli. Non si tratta, ad ogni modo, di scelte obbligate, anzi il nudging sta proprio nel fatto che la scelta resta nelle mani di chi usufruisce del servizio. I presupposti, però, sono una certa concezione dell’individuo, di stampo comportamentista, per cui a certi stimoli risponderanno (quasi) certamente determinate risposte. Inoltre, per essere tale, il nudging non dovrebbe comportare incentivi o disincentivi economici. La teoria, dunque, pur mantenendo l’idea che l’individuo sia libero, si inserisce nell’ambito dell’economia comportamentale e parte dal presupposto che gli esseri umani siano fortemente influenzati, nelle loro scelte, dall’ambiente che li circonda (Ross 1977).

L’applicazione del nudging all’intelligenza artificiale

La questione diventa ancora più interessante quando viene applicata alle nostre interazioni con le macchine e, quindi, quando i suggerimenti e le spintarelle vengono dall’intelligenza artificiale (molto interessante a questo proposito Mele et alia 2021). Anche questo potrebbe sollevare dei problemi di trasparenza, tali per cui potrebbero esserci dei nudge di cui non ci rendiamo conto, perché non espliciti – a differenza dei suggerimenti a cui abbiamo fatto riferimento all’inizio che, trattandosi di proposte, sono espliciti. Lo stesso esempio della disposizione della frutta non è così trasparente: potremmo non renderci affatto conto, ma forse nemmeno domandarci, perché la frutta si trovi proprio lì e non altrove. Questo è un primo punto da tenere a mente.

Molte IA, molti nudging

Secondo punto, anche per l’IA esistono casi molto differenti tra loro, soprattutto perché esistono molti tipi di IA – così come molti tipi di nudging. Questi ultimi possono essere suddivisi in base a numerosi criteri (in Mele et alia 2021 ne troviamo una rassegna esaustiva). Ai nostri occhi, molto interessante è la questione dei robot sociali che proprio interagendo socialmente con noi possono suggerirci determinate cose e, così facendo, “spingerci” verso il meglio.

Venendo a esempi concreti, un caso interessante è costituito da Mabu (Catalia Health). Si tratta di un robot sociale utilizzato per pazienti con malattie croniche, con lo scopo di incentivare e migliorare le cure di questi stessi pazienti. La piattaforma intelligente a cui Mabu è connesso impara i gusti e le abitudini del suo utente, con cui può così intrattenere delle conversazioni mirate.

Un altro esempio è ElliQ (Intuition Robotics), anche in questo caso un robot sociale che consiste in un corpo stilizzato di piccole dimensioni e uno schermo separato. Il suo scopo è spingere gli anziani a rimanere attivi e sociali e, dunque, evitare stili di vita eccessivamente sedentari, non solo da un punto di vista fisico, ma anche mentale e sociale e ricordare loro gli appuntamenti medici.

Se fosse vero che c’è una intelligenza artificiale senziente

Conclusioni

Questi scenari pongono sicuramente numerose sfide di tipo etico: il Parlamento europeo (2021) riconosce tra queste, le questioni della “esplicabilità” e trasparenza delle macchine. Con ciò si intende il fatto che il loro comportamento dovrebbe essere chiaro e prevedibile da parte degli utenti che ne fanno uso, senza incorrere però in quella che viene chiamata “info-besity”, ovvero un eccesso di informazioni tale da essere privo di utilità.

Questo tema si lega a quello delle note black box, ma può configurarsi anche diversamente, se inteso come l’idea che un robot, se interrogato, dovrebbe essere in grado di dare una spiegazione del proprio comportamento, proprio come chiediamo a bambino: perché hai buttato il libro a terra? Infatti, una cosa è comportarsi in modo comprensibile, un’altra è fornire la spiegazione di ogni minimo comportamento, o meglio spiegare ogni singolo passaggio che permette alle macchine di produrre un determinato output. Per questo riterremmo giusto che il bambino rispondesse “perché ero arrabbiato” o “per dispetto”, ma non pretendiamo da lui la spiegazione fisiologica del gesto o ogni singolo pensiero fatto dal suo cervello prima.

Anche nei casi dei robot social che abbiamo descritto, le sfide etiche si intrecciano ai grandi vantaggi che è possibile ottenere da simili interazioni, che permettono non solo soluzioni ottimali ai loro utenti, ma aumentano anche le loro possibilità agentive e offrono soluzioni concrete a casi problematici. In questo senso, l’architettura della scelta può fornire un aiuto valido, ma richiede una consapevolezza costante dei limiti che andrebbero imposti e, dunque, la necessità che i suggerimenti siano espliciti e possano essere sempre compresi da chi li riceve. Altro presupposto indispensabile è che le spinte siano davvero orientate a migliorare le scelte e, di conseguenza, la vita di chi liberamente ma comunque in parte indotto sceglie di accogliere i suggerimenti del proprio robot.

Bibliografia

G. Brockell (2018, Dec. 12), “Dear tech companies, I don’t want to see pregnancy ads after my child was stillborn”, Washington Post.

European Commission, Directorate-General for Research and Innovation, European Group on Ethics in Science and New Technologies, Statement on artificial intelligence, robotics and ‘autonomous’ systems : Brussels, 9 March 2018, Publications Office, 2018, https://data.europa.eu/doi/10.2777/531856

European Parliament, Directorate-General for Internal Policies of the Union, Przegalinska, A., State of the art and future of artificial intelligence, European Parliament, 2021, https://data.europa.eu/doi/10.2861/613707

P.G. Hansen & A.M. Jespersen (2013), “Nudge and the manipulation of choice: A framework for the responsible use of the nudge approach to behaviour change in public policy”, European Journal of Risk Regulation, 31 (4): 1-28.

C. Mele, T. Russo Spena, V. Kaartemo, M.L. Marzullo (2021), “Smart nudging: How cognitive technologies enable choice architectures for value co-creation”, Journal of Business Research, 129: 949-960.

L. Ross (1977), “The intuitive psychologist and his shortcomings: Distortions in the attribution process”, Advances in Experimental Social Psychology, 10: 173-220.

R. Thaler & C. Sunstein (2008), Nudge: The gentle power of choice architecture, Yale University Press, New Haven, CT.

Valuta la qualità di questo articolo

La tua opinione è importante per noi!

EU Stories - La coesione innova l'Italia

Tutti
Iniziative
Analisi
Social
Video
Agevolazioni
A febbraio l’apertura dello sportello Mini Contratti di Sviluppo
Quadri regolamentari
Nuovi Orientamenti sull’uso delle opzioni semplificate di costo
Coesione
Nuovo Bauhaus Europeo (NEB): i premi che celebrano innovazione e creatività
Dossier
Pubblicato il long form PO FESR 14-20 della Regione Sicilia
Iniziative
400 milioni per sostenere lo sviluppo delle tecnologie critiche nel Mezzogiorno
Formazione
“Gian Maria Volonté”: dalle aule al mondo del lavoro, focus sui tirocini della Scuola d’Arte Cinematografica
TRANSIZIONE ENERGETICA
Il ruolo del finanziamento BEI per lo sviluppo del fotovoltaico in Sicilia
Formazione
“Gian Maria Volonté”: dalla nascita ai progetti futuri, focus sulla Scuola d’Arte Cinematografica. Intervista al coordinatore Antonio Medici
MedTech
Dalla specializzazione intelligente di BionIT Labs una innovazione bionica per la disabilità
Finanza sostenibile
BEI e E-Distribuzione: investimenti per la sostenibilità energetica
Professioni
Servono competenze adeguate per gestire al meglio i fondi europei
Master
Come formare nuove professionalità per governare e gestire al meglio i fondi europei?
Programmazione UE
Assunzioni per le politiche di coesione: prossimi passi e aspettative dal concorso nazionale. Il podcast “CapCoe. La coesione riparte dalle persone”
innovazione sociale
Rigenerazione urbana: il quartiere diventa un hub dell’innovazione. La best practice di San Giovanni a Teduccio
Programmazione europ
Fondi Europei: la spinta dietro ai Tecnopoli dell’Emilia-Romagna. L’esempio del Tecnopolo di Modena
Interventi
Riccardo Monaco e le politiche di coesione per il Sud
Iniziative
Implementare correttamente i costi standard, l'esperienza AdG
Finanziamenti
Decarbonizzazione, 4,8 miliardi di euro per progetti cleantech
Formazione
Le politiche di Coesione UE, un corso gratuito online per professionisti e giornalisti
Interviste
L’ecosistema della ricerca e dell’innovazione dell’Emilia-Romagna
Interviste
La ricerca e l'innovazione in Campania: l'ecosistema digitale
Iniziative
Settimana europea delle regioni e città: un passo avanti verso la coesione
Iniziative
Al via il progetto COINS
Eventi
Un nuovo sguardo sulla politica di coesione dell'UE
Iniziative
EuroPCom 2024: innovazione e strategia nella comunicazione pubblica europea
Iniziative
Parte la campagna di comunicazione COINS
Interviste
Marco De Giorgi (PCM): “Come comunicare le politiche di coesione”
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politiche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia
Agevolazioni
A febbraio l’apertura dello sportello Mini Contratti di Sviluppo
Quadri regolamentari
Nuovi Orientamenti sull’uso delle opzioni semplificate di costo
Coesione
Nuovo Bauhaus Europeo (NEB): i premi che celebrano innovazione e creatività
Dossier
Pubblicato il long form PO FESR 14-20 della Regione Sicilia
Iniziative
400 milioni per sostenere lo sviluppo delle tecnologie critiche nel Mezzogiorno
Formazione
“Gian Maria Volonté”: dalle aule al mondo del lavoro, focus sui tirocini della Scuola d’Arte Cinematografica
TRANSIZIONE ENERGETICA
Il ruolo del finanziamento BEI per lo sviluppo del fotovoltaico in Sicilia
Formazione
“Gian Maria Volonté”: dalla nascita ai progetti futuri, focus sulla Scuola d’Arte Cinematografica. Intervista al coordinatore Antonio Medici
MedTech
Dalla specializzazione intelligente di BionIT Labs una innovazione bionica per la disabilità
Finanza sostenibile
BEI e E-Distribuzione: investimenti per la sostenibilità energetica
Professioni
Servono competenze adeguate per gestire al meglio i fondi europei
Master
Come formare nuove professionalità per governare e gestire al meglio i fondi europei?
Programmazione UE
Assunzioni per le politiche di coesione: prossimi passi e aspettative dal concorso nazionale. Il podcast “CapCoe. La coesione riparte dalle persone”
innovazione sociale
Rigenerazione urbana: il quartiere diventa un hub dell’innovazione. La best practice di San Giovanni a Teduccio
Programmazione europ
Fondi Europei: la spinta dietro ai Tecnopoli dell’Emilia-Romagna. L’esempio del Tecnopolo di Modena
Interventi
Riccardo Monaco e le politiche di coesione per il Sud
Iniziative
Implementare correttamente i costi standard, l'esperienza AdG
Finanziamenti
Decarbonizzazione, 4,8 miliardi di euro per progetti cleantech
Formazione
Le politiche di Coesione UE, un corso gratuito online per professionisti e giornalisti
Interviste
L’ecosistema della ricerca e dell’innovazione dell’Emilia-Romagna
Interviste
La ricerca e l'innovazione in Campania: l'ecosistema digitale
Iniziative
Settimana europea delle regioni e città: un passo avanti verso la coesione
Iniziative
Al via il progetto COINS
Eventi
Un nuovo sguardo sulla politica di coesione dell'UE
Iniziative
EuroPCom 2024: innovazione e strategia nella comunicazione pubblica europea
Iniziative
Parte la campagna di comunicazione COINS
Interviste
Marco De Giorgi (PCM): “Come comunicare le politiche di coesione”
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politiche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia

Articoli correlati

Articolo 1 di 3