La discussione sull’intelligenza artificiale applicata alla Customer Experience si concentra spesso sulla tecnologia: chatbot più efficaci, assistenti vocali più naturali, agenti capaci di comprendere meglio le intenzioni del cliente e di portare a termine attività sempre più complesse. Ma c’è un livello meno evidente che rischia di diventare molto più importante man mano che questi sistemi acquistano autonomia: il canale attraverso cui interagiamo con l’AI non è neutro.
La riflessione è nata da una conversazione con Francesca Gabrielli, CEO di Assist Digital e esperta di CX e AI. Partivamo da un tema apparentemente molto operativo: perché un’interazione che sulla carta dovrebbe diventare più semplice grazie all’AI può, in alcuni casi, richiedere al cliente più fatica e non meno. Da lì siamo arrivati rapidamente a una domanda diversa. Se il sistema non si limita più a rispondere ma può decidere quale sia il passo successivo e compierlo autonomamente, stiamo ancora parlando soltanto di Customer Experience? Oppure il design dell’esperienza sta diventando anche una forma di governance?
La distinzione è importante. Un sito web, una chat, un assistente vocale e un agente AI non sono semplicemente interfacce diverse verso lo stesso processo. Ciascuno modifica ciò che l’utente deve capire, ricordare, formulare e decidere. E nel momento in cui il sistema può anche agire, il canale comincia a influenzare un elemento ancora più delicato: la distribuzione dell’autorità decisionale tra cliente, persone e macchina.
Indice degli argomenti
Customer experience e AI: come il canale cambia il carico cognitivo
Un esempio molto semplice rende evidente il problema. Francesca si era trovata a utilizzare un sistema di autenticazione vocale che le chiedeva un’informazione elementare. La risposta era corretta (la sua età per autenticarsi), ma il sistema l’aveva rifiutata. Secondo tentativo, stesso risultato. Poi un terzo, prima del trasferimento a un operatore umano.
Dal punto di vista tecnico non era accaduto nulla di clamoroso. Il sistema aveva semplicemente fallito un passaggio. Dal punto di vista dell’esperienza, però, ciò che sarebbe stato un errore più facilmente recuperabile su un modulo web era diventato molto più frustrante. In un form posso vedere quello che ho scritto, rileggerlo, fermarmi e correggerlo. In una conversazione vocale non posso “rileggere” quello che ho appena detto e persino la latenza assume un significato diverso: un secondo di attesa su uno schermo è un caricamento, un secondo di silenzio dentro una conversazione può sembrare esitazione o incomprensione.
Il compito è lo stesso, ma il costo cognitivo cambia con il canale. È un punto vicino a quello descritto da Jakob Nielsen con il concetto di articulation barrier: chiedere a una persona di esprimere in modo preciso ciò che vuole può richiedere più lavoro cognitivo che offrirle una serie di possibilità ben progettate tra cui scegliere.
Questo diventa particolarmente rilevante nell’era delle “interfacce basate sull’intento”. Nei sistemi tradizionali specifichiamo spesso come eseguire un’attività: scegliamo un’opzione, compiliamo campi, seguiamo un percorso. Nei sistemi AI diciamo sempre più spesso quale risultato vogliamo ottenere e lasciamo alla macchina la scelta dei passaggi intermedi.
È apparentemente una semplificazione, ma non sempre lo è per chi sta dall’altra parte. Un campo vuoto che chiede “Cosa vuoi fare?” può sembrare più intelligente di cinque opzioni, ma può anche trasferire sull’utente la responsabilità di capire quali possibilità esistano e di formularle correttamente.
Da qui emerge una domanda utile anche per valutare i business case di automazione:
quando rendiamo la tecnologia più intelligente, di chi stiamo riducendo il lavoro?
Un processo può diventare più efficiente per l’impresa e contemporaneamente più faticoso per il cliente. Si può ridurre il tempo di gestione interna trasferendo parte del carico cognitivo all’esterno. La metrica di efficienza migliora, mentre l’esperienza peggiora.
L’AI non ha necessariamente fallito. È il lavoro che si è semplicemente spostato.
Continuità tra canali: quando il cliente integra i sistemi aziendali
Il problema diventa ancora più evidente quando l’interazione attraversa più touchpoint.
Francesca mi ha raccontato di essere entrata in un negozio per risolvere un problema contrattuale. All’ingresso un totem le aveva chiesto il motivo della visita. Lei aveva inserito le informazioni, ottenuto un numero e atteso il proprio turno. Arrivata allo sportello, la prima domanda dell’operatore era stata: “Come posso aiutarla?”.
Tutto da capo.
Il totem possedeva il contesto. L’operatore no. Francesca ha sintetizzato quella situazione con una frase particolarmente efficace: “Ero io il livello di integrazione tra i sistemi.”
È un pattern molto più diffuso di quanto sembri. Il risponditore telefonico raccoglie informazioni che l’operatore richiede di nuovo. Il chatbot ricostruisce il problema per dieci minuti, poi passa il caso a un essere umano senza trasferirgli realmente il contesto. L’app conosce l’intera storia dell’interazione digitale, mentre il dipendente in un punto fisico ricomincia da zero.
Secondo i dati Zendesk richiamati nell’analisi da cui nasce questo articolo, l’81% dei clienti vorrebbe che l’interazione riprendesse dal punto in cui era stata lasciata e il 74% manifesta frustrazione quando deve ripetere le stesse informazioni.
Le aziende ragionano per canali anche perché sono organizzate per canali: digital, retail, CRM, customer care e, sempre più spesso, team dedicati all’AI. Il cliente non vede quella struttura. Dal suo punto di vista sta interagendo sempre con la stessa azienda.
Per questo potrebbe essere utile affiancare alle metriche tradizionali di Customer Experience un indicatore molto semplice: quante volte, nel corso dello stesso journey, chiediamo al cliente di ripetere un’informazione che ci ha già fornito?
Potremmo chiamarlo repetition rate. Non è tanto il nome a essere interessante, quanto ciò che rende visibile: ogni ripetizione non necessaria indica che il cliente sta mantenendo più memoria del percorso di quanta ne stiano mantenendo i sistemi dell’impresa.
Il tema è quello della continuity: l’intelligenza del singolo touchpoint serve relativamente poco se il contesto non riesce a seguirci da un touchpoint all’altro. E la continuità non è una feature da aggiungere all’interfaccia. Richiede dati, architettura, processi, ownership e capacità di attraversare i silos organizzativi.
Un problema apparentemente di UX diventa così un problema di operating model.
Agenti AI e customer experience: dalle risposte alle azioni
Con gli agenti AI si aggiunge un ulteriore livello.
Il chatbot tradizionale produce principalmente un output. Se fornisce una risposta sbagliata, l’errore è almeno potenzialmente visibile: l’utente legge quella risposta e può contestarla, ignorarla o chiedere l’intervento di una persona.
Un agente può invece effettuare una prenotazione, aggiornare un record, classificare un reclamo, autorizzare una transazione, inviare una richiesta a un altro sistema o avviare un processo. L’errore non è più necessariamente qualcosa che leggiamo.
Diventa qualcosa che accade.
Questa distinzione cambia profondamente la natura della governance. Se l’AI può compiere azioni per conto dell’organizzazione, la sua autonomia non è più soltanto una proprietà tecnica.
L’autonomia diventa autorità delegata.
In qualche punto del processo l’impresa ha deciso, intenzionalmente oppure semplicemente attraverso la configurazione del sistema, quali decisioni un agente può prendere senza chiedere un’autorizzazione ulteriore.
Di conseguenza, sapere se l’AI “è capace” di fare qualcosa non basta più. Serve stabilire se dovrebbe poterlo fare autonomamente, quale sia la conseguenza potenziale, se l’azione sia reversibile, quando sia necessaria una conferma umana e chi mantenga la responsabilità sull’esito.
Un agente che risponde a una domanda sugli orari di apertura e uno che autorizza un rimborso da 10mila euro appartengono entrambi alla categoria “AI agent”, ma dal punto di vista organizzativo sono oggetti radicalmente diversi. Il livello di autonomia accettabile, i controlli, le escalation e la tolleranza all’errore non possono essere gli stessi.
Governance degli agenti AI: mettere al centro la decisione
Da qui nasce una possibile inversione di prospettiva.
Molti modelli di AI governance sono naturalmente costruiti intorno al sistema: quale modello utilizziamo, quali dati lo alimentano, quali performance raggiunge, quali controlli vengono applicati. Tutte domande necessarie. Ma con l’agentic AI potrebbe diventare altrettanto importante cambiare unità di analisi.
E se l’unità più utile da governare non fosse il modello, ma la decisione?
La stessa tecnologia può infatti essere utilizzata per decisioni con profili di rischio radicalmente diversi. Guardare alla decisione obbliga a chiedersi quale autorità stiamo delegando, quale sia l’impatto potenziale dell’errore, quanto l’azione sia reversibile, quali sistemi possa influenzare a valle e a chi rimanga l’accountability.
Questa prospettiva ha anche una conseguenza organizzativa. La governance degli agenti non può essere lasciata soltanto al team che seleziona o implementa il modello, perché il problema non riguarda solo il comportamento della tecnologia. Riguarda il ruolo che quell’agente occupa dentro un processo e le decisioni che l’impresa gli permette di assumere.
Fiducia negli agenti AI: reversibilità, coerenza e recupero degli errori
Anche la discussione sulla fiducia cambia natura.
Quando parliamo di “trust in AI” tendiamo spesso a concentrarci sulla trasparenza: informare che si sta interagendo con un sistema AI, spiegare il funzionamento, adottare un tono appropriato, rendere visibile la presenza di supervisione umana. Sono elementi importanti, ma non sufficienti.
La fiducia reale si forma attraverso il comportamento del sistema nel tempo.
Il sistema ricorda ciò che è già accaduto? Si comporta in modo coerente? L’utente vede le decisioni realmente importanti senza essere sommerso da dettagli? Le azioni critiche possono essere annullate? Quando il sistema sbaglia, esiste un percorso semplice per recuperare la situazione?
Nel confronto con Francesca sono emersi quattro principi particolarmente concreti:
visibilità calibrata, per mostrare ciò che conta senza trasformare l’automazione in una continua richiesta di supervisione;
reversibilità, distinguendo tra azioni facilmente annullabili e decisioni ad alto impatto;
coerenza comportamentale, affinché persone e operatori possano costruirsi aspettative affidabili sul comportamento dell’agente;
recovery, cioè la capacità di tornare facilmente a un punto precedente o a un operatore umano quando qualcosa non funziona.
In un contesto di assistenza clienti osservato da Francesca, per esempio, un agente AI classifica e instrada autonomamente le richieste standard, segnala all’operatore i casi ambigui spiegando brevemente il motivo dell’escalation e non interviene direttamente su reclami formali o richieste legali. Con il tempo gli operatori imparano quali attività il sistema esegue in autonomia e quali restituirà all’essere umano.
È un esempio interessante perché sposta l’obiettivo.
Non serve necessariamente massimizzare l’autonomia. Serve progettare l’autonomia appropriata.
E allo stesso modo non serve massimizzare la fiducia delle persone nell’AI. Serve costruire fiducia calibrata, nella quale utenti e operatori abbiano un’idea sufficientemente corretta di ciò che il sistema sa fare, dei suoi limiti e dei momenti nei quali il controllo cambia mano.
User-Centered Design: progettare i confini dell’autonomia
In questo scenario anche lo User-Centered Design cambia ruolo.
Se un sistema genera soltanto raccomandazioni, una cattiva decisione di design produce soprattutto frizione e insoddisfazione. Se un agente agisce autonomamente, stabilire dove chieda conferma, quando effettui un’escalation o quali informazioni renda visibili influenza direttamente il profilo di rischio del processo.
Il design diventa quindi una componente del sistema di controllo.
Il punto in cui un agente si ferma e chiede autorizzazione non è più soltanto un dettaglio dell’interfaccia. È il confine operativo tra autonomia della macchina e autorità umana.
Questo rende sempre meno sostenibile una progettazione sequenziale nella quale il business definisce il caso d’uso, l’IT costruisce la soluzione, la UX disegna l’interfaccia e risk o compliance aggiungono successivamente i controlli. Nel momento in cui gli agenti possono interpretare un’intenzione, prendere una decisione e agire, experience design, process design, architettura, governance e operating model diventano aspetti dello stesso sistema.
È forse uno degli effetti organizzativi più interessanti dell’agentic AI: non necessariamente nuove caselle nell’organigramma, ma nuove interdipendenze tra funzioni che fino a oggi potevano progettare parti diverse del processo in modo relativamente autonomo.
Tre domande per valutare gli agenti AI nella customer experience
Le demo degli agenti AI stanno diventando rapidamente più convincenti. Proprio per questo rischiano di nascondere alcune delle decisioni più importanti: una conversazione molto fluida non dice nulla, da sola, su come sia stata progettata l’autonomia che si trova dietro quella conversazione.
Prima di valutare il prossimo progetto di Customer Experience basato sull’AI, potrebbe quindi essere utile partire da tre domande.
Quanto sforzo cognitivo reale stiamo chiedendo al cliente con questo canale, anziché assumere che un’interazione conversazionale sia automaticamente più semplice?
Quante volte chiediamo oggi allo stesso cliente di ripetere un’informazione mentre attraversa sistemi e canali diversi della nostra organizzazione?
Abbiamo stabilito esplicitamente dove i nostri agenti AI devono fermarsi e chiedere conferma, oppure scopriremo quel confine soltanto quando commetteranno un errore?
Sono domande di Customer Experience, ma ormai sono anche domande di architettura, rischio e leadership.
È probabilmente questa la trasformazione più importante. Il canale non è mai stato neutro: ha sempre modificato il rapporto tra azienda e cliente. Ma quando il canale può interpretare, decidere e agire, progettarlo significa anche decidere come distribuire autorità e responsabilità all’interno dell’organizzazione.
E a quel punto la Customer Experience non è più soltanto ciò che il cliente vede.
È anche il modo in cui l’impresa ha deciso di funzionare.
Partecipa alla community