Ogni giorno produciamo una quantità enorme di opinioni online. Scriviamo recensioni su alberghi e prodotti, commentiamo servizi, discutiamo sui social network e raccontiamo esperienze personali. Per un essere umano sarebbe impossibile leggere e analizzare manualmente milioni di questi contenuti.
I sistemi di intelligenza artificiale permettono invece di farlo su una scala completamente diversa: possono stabilire se una recensione esprime un giudizio positivo o negativo, individuare gli argomenti di cui si parla, riconoscere emozioni come rabbia, tristezza o ottimismo e identificare altre caratteristiche specifiche del contesto [1].
Immaginiamo un’azienda che riceva centinaia di migliaia di recensioni sui propri prodotti. Un sistema automatico può dirci che una parte dei commenti è negativa, che molte lamentele riguardano la batteria o che stanno aumentando i problemi relativi all’assistenza. Queste informazioni possono orientare decisioni concrete: modificare un prodotto, intervenire sul servizio clienti o cambiare una strategia commerciale. Lo stesso principio può essere applicato all’analisi delle discussioni sui social network, dei servizi pubblici o delle opinioni espresse su temi di interesse collettivo.
Indice degli argomenti
Explainable AI: perché un’etichetta non basta
Il problema è che spesso il risultato arriva sotto forma di una semplice etichetta. Positivo. Negativo. Rabbia. Ottimismo. Il sistema ha deciso, ma non sappiamo esattamente perché. Quando analizziamo una singola recensione possiamo forse intuire la ragione. Ma quando un algoritmo lavora su milioni di testi e le sue classificazioni vengono aggregate in report e statistiche, quella mancanza di trasparenza diventa molto più importante.
È qui che entra in gioco quella che nella ricerca viene chiamata Explainable Artificial Intelligence, o XAI [3]. L’idea è semplice: non dovrebbe interessarci soltanto sapere cosa ha deciso un modello, ma anche quali elementi dell’input hanno contribuito a quella decisione. Se una recensione viene classificata come negativa, quali parole hanno pesato maggiormente? Se un testo viene associato alla rabbia, quali espressioni hanno determinato quella classificazione? Tecniche come LIME o Integrated Gradients cercano proprio di individuare gli elementi che influenzano maggiormente una previsione [2,3].
Dalle evidenze dell’AI a spiegazioni comprensibili
Ma rendere disponibile una spiegazione tecnica non significa necessariamente renderla comprensibile. Un insieme di valori numerici associati alle singole parole può essere utile per un ricercatore o un ingegnere, molto meno per un manager, un analista o una persona che vuole semplicemente capire perché il sistema abbia raggiunto una determinata conclusione. Serve quindi un passaggio ulteriore: trasformare le evidenze tecniche prodotte dai metodi di explainability in una spiegazione leggibile.
Qui i grandi modelli linguistici possono essere particolarmente utili. Un modello generativo può prendere le classificazioni prodotte da altri sistemi, insieme alle parole considerate più importanti, e trasformarle in una spiegazione in linguaggio naturale. Bisogna però stare attenti. Chiedere semplicemente a un modello come GPT di spiegare una decisione non garantisce che la spiegazione rifletta davvero il processo che ha portato alla classificazione. Il modello potrebbe costruire a posteriori una motivazione perfettamente plausibile, ma non necessariamente fedele.
Lo studio sull’Explainable AI per analizzare le opinioni
È proprio su questo punto che abbiamo lavorato in un recente studio pubblicato sulla rivista Machine Learning. Con Cristian Cosentino, Merve Gunduz Cure e Sule Ozturk Birim abbiamo sviluppato un approccio che combina modelli linguistici, tecniche di Explainable AI e AI generativa per analizzare le opinioni in maniera multidimensionale e, soprattutto, per spiegare le classificazioni ottenute. Il sistema può considerare contemporaneamente sentiment, emozioni, argomenti e caratteristiche specifiche del dominio analizzato [1].
Tre passaggi dalle classificazioni alla spiegazione
Il processo si sviluppa in tre passaggi. Prima il testo viene classificato lungo diverse dimensioni. Una recensione può essere negativa, esprimere rabbia e riguardare un problema specifico nell’utilizzo di un prodotto. Successivamente le tecniche di Explainable AI individuano le parole che hanno contribuito maggiormente alle diverse classificazioni. Infine un modello generativo usa queste informazioni per produrre una spiegazione leggibile, ma partendo dalle evidenze già individuate dal sistema, invece di inventare liberamente una giustificazione [1]. Per rendere interpretabile anche l’individuazione degli argomenti, abbiamo inoltre sviluppato BERTopicXAI, un’estensione di BERTopic [4].
Prendiamo una recensione negativa. Un sistema tradizionale potrebbe limitarsi ad assegnarle l’etichetta negativa. Un sistema spiegabile può invece mostrarci quali espressioni hanno contribuito maggiormente a quella classificazione, quale sia il tema principale della recensione e quali emozioni emergano dal testo. A quel punto il modello generativo può costruire una spiegazione che collega esplicitamente quelle espressioni alle diverse dimensioni analizzate. Non abbiamo più soltanto un’etichetta. Abbiamo una piccola catena di evidenze.
Il confronto tra spiegazioni generiche e basate sulle evidenze
Nel nostro studio abbiamo confrontato un modello generativo che riceveva soltanto l’opinione originale con uno che riceveva anche le classificazioni e gli elementi individuati dalle tecniche di explainability. Il secondo approccio ha prodotto spiegazioni più strutturate e più strettamente collegate alle evidenze utilizzate dai classificatori. La valutazione ha combinato metriche automatiche, un modello linguistico utilizzato come valutatore e un gruppo di esperti. Sono stati coinvolti 40 partecipanti con esperienza in NLP, analisi dei dati e aree correlate, mostrando una buona coerenza tra valutazione umana e automatica [1].
I limiti dell’Explainable AI tra errori e controllo umano
C’è però un punto fondamentale. Spiegabile non significa infallibile. Se la classificazione iniziale è sbagliata, anche una spiegazione perfettamente coerente può spiegare molto bene una decisione sbagliata. Pensiamo al sarcasmo. Una frase può utilizzare parole apparentemente positive per esprimere in realtà una critica. Se il classificatore interpreta letteralmente quelle parole, la tecnica di explainability potrà mostrarci correttamente perché il modello abbia sbagliato. Ed è proprio questo il punto: l’explainability non elimina gli errori, ma ci aiuta a individuarli [3].
Un sistema completamente opaco può restituire una decisione sbagliata senza darci molti strumenti per comprenderne l’origine. Un sistema spiegabile permette invece a un essere umano di controllare almeno in parte il percorso seguito dal modello, individuare elementi sospetti e decidere se fidarsi o meno del risultato. La trasparenza non sostituisce il controllo umano. Al contrario, lo rende possibile.
Capire le decisioni dell’intelligenza artificiale
Per molti anni abbiamo misurato la qualità dei sistemi di intelligenza artificiale soprattutto attraverso le loro prestazioni: accuratezza, precisione, capacità di classificare correttamente un numero crescente di esempi. Queste misure continueranno a essere fondamentali. Ma man mano che l’intelligenza artificiale entra nei processi decisionali reali, dobbiamo aggiungere un’altra domanda. Non soltanto: quanto spesso prende la decisione corretta? Ma anche: quando prende quella decisione, siamo in grado di capire su quali elementi si è basata?
Un’intelligenza artificiale realmente utile non dovrebbe limitarsi a consegnarci un verdetto. Dovrebbe permetterci di comprendere almeno in parte il processo che lo ha prodotto. Perché quando una decisione automatizzata influenza aziende, istituzioni o persone, sapere cosa ha deciso una macchina non è sempre sufficiente. Dobbiamo poter sapere anche perché.
Riferimenti
[1] Cosentino, C., Gunduz Cure, M., Marozzo, F., & Ozturk Birim, S. Interpreting User Opinions: A Multidimensional Approach Leveraging Explainable AI and Generative Models. Machine Learning, 115, 140 (2026).
[2] Ribeiro, M. T., Singh, S., & Guestrin, C. “Why Should I Trust You?”: Explaining the Predictions of Any Classifier. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 2016.
[3] Ali, S., Abuhmed, T., El-Sappagh, S., et al. Explainable Artificial Intelligence (XAI): What We Know and What Is Left to Attain Trustworthy Artificial Intelligence. Information Fusion, 99, 101805 (2023).
[4] Grootendorst, M. BERTopic: Neural Topic Modeling with a Class-Based TF-IDF Procedure. arXiv preprint, 2022.
Partecipa alla community