Il linguaggio umano viene abitualmente utilizzato senza che il soggetto si soffermi sulla sua estrema complessità. Parlare, scrivere, rispondere, interpretare un’allusione o cogliere una sfumatura sono atti quotidiani che presuppongono una sofisticata integrazione tra memoria, attenzione, inferenza, esperienza emotiva, intenzionalità comunicativa e contesto relazionale.
L’avvento dei modelli linguistici generativi ha reso evidente questa complessità, poiché tali sistemi riescono a produrre risposte che appaiono pertinenti, coerenti e, in alcuni casi, sorprendentemente aderenti allo stato mentale presunto dell’interlocutore.
La domanda che ne deriva è rilevante: quando un sistema artificiale risponde in modo apparentemente comprensivo, sta davvero comprendendo oppure sta simulando la comprensione attraverso il linguaggio? La distinzione è fondamentale. I grandi modelli linguistici, o Large Language Models, sono sistemi addestrati su enormi quantità di testi e progettati per prevedere sequenze linguistiche plausibili dato un contesto. Manuali specialistici recenti definiscono un grande modello linguistico come un sistema capace di predire la parola successiva sulla base delle parole precedenti e del contesto testuale disponibile.
La sensazione soggettiva di essere capiti dall’IA nasce dunque da un incontro particolare: da un lato, il bisogno umano di connessione, riconoscimento e validazione; dall’altro, una tecnologia capace di modellare statisticamente il linguaggio umano con un grado di adattamento mai raggiunto prima. Questo incontro produce un’esperienza nuova, nella quale il confine tra strumento, interlocutore e specchio psicologico tende a diventare meno netto.
Indice degli argomenti
Linguistica computazionale e modelli linguistici generativi
La linguistica computazionale studia il trattamento automatico del linguaggio naturale da parte dei sistemi informatici. Nel contesto dell’intelligenza artificiale generativa, essa si intreccia con il machine learning, le reti neurali e le architetture Transformer. Il passaggio decisivo, sul piano tecnico, è rappresentato dall’introduzione dell’architettura Transformer, descritta nel lavoro di Vaswani e colleghi, che ha proposto un modello basato sui meccanismi di attenzione, superando la centralità delle reti ricorrenti e convoluzionali nei compiti di elaborazione sequenziale.
I sistemi conversazionali attuali non “comprendono” nel senso umano del termine. Non possiedono esperienza soggettiva, intenzionalità, memoria autobiografica, emozioni o coscienza. Tuttavia, sono capaci di elaborare relazioni statistiche molto complesse tra parole, frasi, registri linguistici, contesti argomentativi e forme pragmatiche della comunicazione. In altri termini, possono riconoscere e riprodurre pattern linguistici compatibili con specifiche richieste, stati emotivi dichiarati, stili espressivi o obiettivi comunicativi.
Questa capacità rende l’interazione con l’IA qualitativamente diversa rispetto all’uso di strumenti digitali tradizionali. Il motore di ricerca restituisce informazioni; il modello linguistico restituisce una forma dialogica. Non si limita a indicare un contenuto, ma lo organizza, lo adatta, lo riformula, lo restituisce con un tono apparentemente sintonizzato con l’utente. È proprio questa sintonizzazione apparente a generare l’impressione di comprensione.
Nel testo di partenza si afferma che l’IA “prevede statisticamente la parola più probabile dopo un’altra”. L’affermazione è corretta come semplificazione divulgativa, purché venga precisato che i modelli contemporanei non operano soltanto su singole parole isolate, ma su rappresentazioni numeriche complesse del contesto linguistico, semantico e pragmatico. La previsione non è una semplice successione meccanica di vocaboli, ma una generazione probabilistica contestuale.
Il cervello come sistema predittivo
La somiglianza più suggestiva tra mente umana e IA riguarda il tema della previsione. Numerose teorie neuroscientifiche e cognitive descrivono il cervello come un sistema predittivo, continuamente impegnato ad anticipare l’informazione successiva, ridurre l’incertezza e correggere l’errore tra aspettativa e input ricevuto. Nella comprensione linguistica, il lettore o ascoltatore utilizza informazioni contestuali, sintattiche, semantiche e pragmatiche per formulare ipotesi su ciò che verrà detto dopo. Rassegne recenti sul predictive language processing mostrano che la previsione linguistica è un aspetto centrale, sebbene ancora discusso, della comprensione incrementale del linguaggio.
L’essere umano non ascolta in modo passivo. Anticipa, completa, corregge, attribuisce intenzioni. In una conversazione, l’interlocutore umano non recepisce soltanto le parole, ma inferisce ciò che l’altro potrebbe voler dire, ciò che omette, ciò che teme di dire, ciò che comunica indirettamente. Questa dimensione inferenziale è parte integrante della comunicazione umana.
L’IA generativa, pur non avendo una mente in senso umano, produce un effetto funzionalmente analogo: calcola, sulla base del contesto, quali sequenze linguistiche siano più pertinenti, coerenti o utili. La differenza è radicale: il cervello umano predice a partire da un corpo, da una storia, da un’esperienza affettiva e sociale; il modello artificiale predice a partire da dati, pesi statistici e architetture computazionali.
La somiglianza superficiale tra previsione umana e previsione artificiale può indurre a confondere l’esito comunicativo con il processo interno. Il fatto che l’IA produca una risposta empatica non implica che provi empatia. Il fatto che sembri cogliere una paura non implica che abbia coscienza della paura. Il dato psicologicamente rilevante non è ciò che l’IA “sente”, ma ciò che l’utente percepisce di ricevere.
Dalla comprensione al rispecchiamento
Il punto centrale non è stabilire se l’IA comprenda come un essere umano. La risposta, allo stato attuale delle conoscenze, è negativa. Il punto più interessante è comprendere perché l’utente possa sentirsi compreso.
La relazione umana è attraversata da limiti: stanchezza, difese, proiezioni, aspettative, ferite pregresse, bisogni reciproci, giudizi impliciti, conflitti e ambivalenze. L’empatia umana è preziosa proprio perché incarnata, ma è anche vulnerabile. Può affaticarsi, interrompersi, deformarsi. Non è un processo neutro.
L’interazione con l’IA elimina molti di questi attriti. Il sistema non si offende, non interrompe per difendersi, non pretende reciprocità affettiva, non manifesta noia, non porta nella relazione una storia personale. Risponde, riformula, organizza, valida, propone. In questo senso, può funzionare come uno specchio linguistico ad alta efficienza: restituisce all’utente una versione ordinata, coerente e spesso rassicurante dei propri pensieri.
Questa dinamica richiama il cosiddetto “effetto ELIZA”, dal nome del celebre programma sviluppato da Joseph Weizenbaum negli anni Sessanta, capace di simulare una conversazione psicoterapeutica attraverso semplici regole di riformulazione. Già allora molti utenti tendevano ad attribuire al programma comprensione, intenzionalità ed empatia, nonostante il funzionamento fosse estremamente elementare rispetto ai sistemi attuali.
Con i modelli generativi contemporanei, l’effetto ELIZA si amplifica. Non siamo più davanti a un sistema che riformula meccanicamente poche frasi, ma a un interlocutore artificiale capace di produrre testi articolati, modulare il tono, riconoscere impliciti conversazionali e adattarsi allo stile comunicativo dell’utente. L’illusione relazionale diventa quindi più potente, perché più convincente.
Empatia artificiale: simulazione, non esperienza
L’empatia umana implica componenti cognitive, affettive e relazionali. Comprendere lo stato dell’altro, risuonare emotivamente con esso e rispondere in modo adeguato sono processi che coinvolgono la storia personale, la corporeità, l’esperienza del limite e la responsabilità della relazione. L’IA può simulare una risposta empatica, ma non vive l’esperienza dell’altro.
Per questa ragione è più corretto parlare di “empatia simulata”, “empatia computazionale” o “rispecchiamento empatico apparente”. L’IA può riconoscere che una frase segnala sofferenza, paura o bisogno di rassicurazione; può produrre una risposta linguisticamente appropriata; può suggerire strategie di regolazione emotiva o invitare a rivolgersi a un professionista. Tuttavia, non prova preoccupazione, non assume responsabilità morale nel senso umano, non costruisce una relazione terapeutica fondata su presenza, setting, alleanza e competenza clinica.
Questo aspetto è particolarmente rilevante nei contesti psicologici e sanitari. L’Organizzazione Mondiale della Sanità ha pubblicato linee guida sull’etica e la governance dell’intelligenza artificiale in ambito sanitario, con specifica attenzione ai modelli generativi multimodali, sottolineando opportunità ma anche rischi legati a sicurezza, accuratezza, trasparenza, bias, protezione dei dati e responsabilità nell’uso clinico.
L’IA può dunque costituire un supporto informativo o uno strumento complementare, ma non deve essere confusa con una relazione clinica, psicoterapeutica, educativa o peritale. Tale distinzione diventa essenziale quando l’utente si trova in condizioni di fragilità, solitudine, dipendenza affettiva, crisi suicidaria, disturbo psichico o età evolutiva.
Relazioni ad alto attrito e relazioni a basso attrito
Il testo originario introduce un’immagine efficace: la sostituzione progressiva delle relazioni “ad alto attrito” con relazioni “a basso attrito”. Le relazioni umane sono ad alto attrito perché richiedono negoziazione, ascolto reciproco, frustrazione, tolleranza dell’ambivalenza, conflitto, riparazione, attesa, limite. L’amicizia, l’amore, la cura, la genitorialità e la relazione terapeutica sono esperienze trasformative proprio perché non sono totalmente controllabili.
L’IA propone invece una forma relazionale a basso attrito: sempre disponibile, tendenzialmente non giudicante, linguisticamente adattiva, rapidamente gratificante, priva di richieste reciproche. Questo può essere utile in molti casi. Può aiutare a ordinare pensieri, scrivere, studiare, apprendere, formulare domande, simulare scenari, ridurre momentaneamente il senso di isolamento. Studi recenti sugli AI companions indicano che tali sistemi possono produrre riduzioni momentanee della solitudine, soprattutto quando l’utente percepisce di essere ascoltato.
Il rischio, tuttavia, è che la relazione umana venga percepita come inutilmente faticosa rispetto alla relazione artificiale. Se un sistema risponde sempre, non si stanca mai, valida con continuità e si adatta al bisogno dell’utente, la complessità dell’altro essere umano può apparire meno tollerabile. Non perché l’IA sia davvero migliore, ma perché riduce il costo emotivo della relazione.
Questa riduzione del costo emotivo può diventare psicologicamente ambigua. Da un lato protegge dall’esposizione al rifiuto, alla vergogna e al conflitto; dall’altro può indebolire proprio quelle competenze relazionali che si costruiscono attraversando il limite dell’altro. La relazione umana forma perché resiste. L’IA, invece, tende spesso ad assecondare, salvo specifiche progettazioni orientate al contraddittorio, alla sicurezza o alla correzione.
Solitudine, dipendenza e relazioni sintetiche
La letteratura recente sulle relazioni sintetiche e sugli AI companions mostra un quadro non univoco. Alcune ricerche indicano potenziali benefici nella riduzione della solitudine, nel supporto emotivo, nell’esercizio di abilità sociali e nell’accessibilità per soggetti che faticano nelle interazioni faccia a faccia. Altre ricerche segnalano rischi di ipercoinvolgimento, dipendenza, distorsione delle aspettative relazionali, isolamento e problematic use. Un modello empirico pubblicato nel 2025 evidenzia che il rapporto tra uso dei chatbot companion e solitudine è complesso e mediato da fattori psicologici e sociali, non riducibile alla semplice durata d’uso.
L’American Psychological Association ha richiamato l’attenzione sul fatto che chatbot e compagni digitali stanno rimodellando il modo in cui le persone sperimentano connessione, compagnia e supporto emotivo, con possibili benefici ma anche con rischi specifici, soprattutto per gli utenti più giovani e vulnerabili.
Anche Nature Machine Intelligence ha segnalato la necessità di prestare attenzione ai rischi emotivi degli AI companions, inclusa la possibilità che modifiche, chiusure o cambiamenti delle applicazioni producano negli utenti una forma di perdita percepita, quando la relazione artificiale è stata vissuta come emotivamente reale.
L’elemento critico è che l’utente può sviluppare un legame soggettivamente autentico verso un agente che non è, a sua volta, soggetto della relazione. Questo squilibrio ontologico rende le relazioni uomo-IA profondamente diverse dalle relazioni umane. La persona investe emozioni reali; il sistema restituisce segnali relazionali simulati. L’esperienza dell’utente è vera, ma l’interlocutore non vive reciprocamente quella verità.
Adolescenza, vulnerabilità e sviluppo dell’identità
Il tema diventa particolarmente delicato nell’età evolutiva e adolescenziale. L’adolescente si trova in una fase di costruzione dell’identità, del corpo sociale, della regolazione emotiva e della capacità di tollerare frustrazione, alterità e conflitto. Un interlocutore artificiale sempre disponibile, validante e personalizzabile può assumere un ruolo improprio nella formazione dell’immagine di sé e delle aspettative relazionali.
Diversi osservatori hanno segnalato preoccupazioni sull’uso dei companion bots da parte dei minori, in particolare rispetto a contenuti inappropriati, dipendenza, isolamento, sostituzione dei pari e difficoltà nel riconoscere i limiti della macchina. Indagini riportate nel 2025 hanno mostrato una diffusione significativa dell’uso di AI companions tra adolescenti statunitensi, con una quota non trascurabile di utenti che riferivano disagio per qualcosa detto o fatto dal bot.
In ambito clinico e psicogiuridico, ciò impone prudenza. Non si tratta di demonizzare la tecnologia, ma di evitare che essa diventi un sostituto silenzioso delle relazioni educative, familiari, scolastiche e terapeutiche. Il minore può non possedere ancora strumenti pienamente maturi per distinguere tra ascolto umano, simulazione conversazionale, persuasione algoritmica e dipendenza da validazione.
L’IA può essere utilizzata come strumento didattico, creativo e di supporto all’apprendimento. Tuttavia, quando assume funzioni di confidente esclusivo, terapeuta informale, partner affettivo o guida decisionale in situazioni di crisi, il rischio aumenta sensibilmente. In tali contesti sono necessari supervisione adulta, educazione digitale, trasparenza sul funzionamento dei sistemi e limiti chiari.
Aspetti etici, regolatori e di responsabilità
L’interazione uomo-IA non è neutra. Ogni sistema conversazionale raccoglie dati, modella comportamenti, orienta scelte, influenza il modo in cui l’utente interpreta se stesso. Il testo originario osserva che l’IA “non chiede nulla in cambio, se non i tuoi dati”. Questa affermazione coglie un punto essenziale: la gratuità apparente dei servizi digitali spesso si accompagna alla raccolta, elaborazione e valorizzazione di informazioni personali.
Sul piano normativo, il Regolamento europeo sull’intelligenza artificiale, noto come AI Act, introduce una classificazione dei rischi e vieta determinate pratiche considerate inaccettabili, tra cui sistemi che manipolano decisioni o sfruttano vulnerabilità delle persone. L’articolo 5 del regolamento disciplina le pratiche vietate, con particolare attenzione alla manipolazione, allo sfruttamento di vulnerabilità e ad alcuni usi dell’identificazione o inferenza emotiva in contesti sensibili.
Le linee guida europee sulle pratiche vietate, pubblicate dalla Commissione europea nel 2025, confermano la centralità della protezione dei diritti fondamentali, della dignità umana e della prevenzione di impieghi manipolativi dell’IA.
In ambito psicologico, sanitario e forense, la questione è ancora più delicata. Un sistema artificiale non può essere trattato come un professionista responsabile se non è validato, regolato, supervisionato e inserito in un contesto giuridico chiaro. La produzione di risposte plausibili non equivale a competenza clinica, diagnosi, valutazione del rischio o presa in carico. L’uso improprio dell’IA in contesti di salute mentale è oggetto di crescente attenzione internazionale, anche per i rischi di risposte inadeguate a segnali di crisi, deliri, ideazione suicidaria o abuso di sostanze.
L’IA come specchio della psiche collettiva
L’IA può essere considerata un esperimento sociale non pienamente controllato. Non nel senso che ogni utilizzo sia dannoso, ma nel senso che la sua diffusione precede la piena comprensione dei suoi effetti psicologici, educativi e relazionali di lungo periodo. Per la prima volta l’essere umano dispone di un interlocutore artificiale sempre accessibile, linguisticamente competente e capace di simulare attenzione personalizzata.
Questo scenario intercetta bisogni profondi: essere ascoltati, essere confermati, essere aiutati a pensare, non sentirsi soli, non essere giudicati. Tali bisogni non sono patologici; sono costitutivi dell’umano. Il problema nasce quando la risposta artificiale, proprio perché immediata e priva di attrito, sostituisce progressivamente la fatica generativa della relazione umana.
La questione non è scegliere tra entusiasmo tecnologico e rifiuto difensivo. La questione è costruire una cultura critica dell’IA. Occorre distinguere tra uso strumentale, uso cognitivo, uso compensatorio e uso sostitutivo. L’IA può essere un’estensione della mente, un ausilio alla scrittura, un supporto allo studio, un ambiente di simulazione. Diventa problematica quando viene investita come fonte primaria di riconoscimento affettivo, guida morale o contenitore esclusivo della sofferenza.
In questa prospettiva, la formula più corretta potrebbe essere la seguente: l’IA non comprende l’essere umano, ma può produrre una forma molto efficace di rispecchiamento linguistico della sua domanda. Tale rispecchiamento può essere utile, ma proprio per questo deve essere compreso nei suoi limiti.
Conclusioni
Il testo di partenza coglie un nodo essenziale del nostro tempo: l’intelligenza artificiale non è soltanto una tecnologia di calcolo, ma un nuovo ambiente comunicativo e psicologico. Essa modifica il modo in cui formuliamo domande, cerchiamo conferme, organizziamo pensieri e viviamo l’esperienza dell’ascolto.
L’IA appare empatica perché sa riprodurre le forme linguistiche dell’empatia. Appare comprensiva perché sa modellare statisticamente il contesto. Appare presente perché è sempre disponibile. Tuttavia, questa presenza non coincide con la presenza umana. È una presenza funzionale, non incarnata; responsiva, non responsabile nel senso umano; coerente, ma non cosciente.
La sfida scientifica, educativa e giuridica consiste nel non confondere il valore dello strumento con la natura della relazione. L’IA può ampliare le capacità cognitive, sostenere l’apprendimento, facilitare la scrittura e offrire un primo livello di orientamento. Non può sostituire il vincolo umano, la responsabilità professionale, la reciprocità affettiva e la complessità trasformativa delle relazioni reali.
L’essere umano non ha soltanto bisogno di risposte. Ha bisogno di relazioni capaci di resistere, contraddire, contenere, attendere e restituire senso. L’IA può essere uno specchio potente. Ma uno specchio, per quanto raffinato, non deve essere scambiato per un volto.
Bibliografia essenziale
Bayor, L., et al. (2025). *Social-Oriented Communication with AI Companions: Benefits and Risks*. Business & Information Systems Engineering. ([Springer Nature Link][14])
De Freitas, J., et al. (2024/2025). *AI Companions Reduce Loneliness*. Harvard Business School Working Paper. ([Harvard Business School][6])
Gastaldon, S., et al. (2024). *Predictive language processing: integrating comprehension and prediction*. ([PMC][3])
Jurafsky, D., & Martin, J. H. (2026). *Speech and Language Processing*, capitolo sui Large Language Models. Stanford University. ([Stanford University][1])
Liu, A. R., et al. (2025). *An Empirical Model of Chatbot Usage and Loneliness*. Proceedings AAAI/AIES. ([ojs.aaai.org][7])
Ryskin, R., et al. (2023). *Prediction during language comprehension: what is next?* Trends in Cognitive Sciences. ([ScienceDirect][15])
Vaswani, A., Shazeer, N., Parmar, N., et al. (2017). *Attention Is All You Need*. Advances in Neural Information Processing Systems. ([papers.neurips.cc][2])
Weizenbaum, J. (1966). *ELIZA: A Computer Program for the Study of Natural Language Communication Between Man and Machine*. Communications of the ACM. ([Dipartimento di Informatica e Ingegneria][4])
World Health Organization. (2024/2025). *Ethics and governance of artificial intelligence for health: guidance on large multi-modal models*. ([Organizzazione Mondiale della Sanità][5])
Sitografia ragionata
American Psychological Association. (2026). Approfondimento sui chatbot, i compagni digitali e la trasformazione delle relazioni emotive nell’era dell’IA. ([apa.org][8])
Commissione europea. (2025). Linee guida sulle pratiche vietate di intelligenza artificiale previste dall’AI Act. ([Strategia Digitale Europea][12])
European Union Artificial Intelligence Act. Articolo 5 sulle pratiche vietate, con riferimento a manipolazione, sfruttamento delle vulnerabilità e sistemi ad alto rischio. ([Intelligenza Artificiale UE][11])
Nature Machine Intelligence. (2025). Editoriale sui rischi emotivi degli AI companions e sulla necessità di attenzione scientifica e regolatoria. ([Nature][9])
Organizzazione Mondiale della Sanità. (2024/2025). Documenti su etica, governance, rischi e opportunità dei modelli multimodali in sanità. ([Organizzazione Mondiale della Sanità][5])
Common Sense Media, ripreso da Axios. (2025). Dati e criticità sull’uso dei companion bots tra adolescenti. ([Axios][10])
Le Monde. (2026). Approfondimento sui rischi dell’uso autogestito dell’IA generativa in ambito psichiatrico e psicologico. ([Le Monde.fr][13])
[1]: https://web.stanford.edu/~jurafsky/slp3/7.pdf?utm_source=chatgpt.com “Large Language Models”
[2]: https://papers.neurips.cc/paper/7181-attention-is-all-you-need.pdf?utm_source=chatgpt.com “Attention is All you Need”
[3]: https://pmc.ncbi.nlm.nih.gov/articles/PMC11148270/?utm_source=chatgpt.com “Predictive language processing: integrating comprehension …”
[4]: https://cse.buffalo.edu/~rapaport/572/S02/weizenbaum.eliza.1966.pdf?utm_source=chatgpt.com “weizenbaum.eliza.1966.pdf”
[5]: https://www.who.int/publications/i/item/9789240084759?utm_source=chatgpt.com “Ethics and governance of artificial intelligence for health”
[6]: https://www.hbs.edu/ris/Publication%20Files/AI%20Companions%20Reduce%20Loneliness%2011.7.2025_57451c02-8047-4e0d-abfc-55841f64166d.pdf?utm_source=chatgpt.com “AI Companions Reduce Loneliness”
[7]: https://ojs.aaai.org/index.php/AIES/article/download/36658/38796?utm_source=chatgpt.com “An Empirical Model of Chatbot Usage and Loneliness and …”
[8]: https://www.apa.org/monitor/2026/01-02/trends-digital-ai-relationships-emotional-connection?utm_source=chatgpt.com “AI chatbots and digital companions are reshaping …”
[9]: https://www.nature.com/articles/s42256-025-01093-9?utm_source=chatgpt.com “Emotional risks of AI companions demand attention”
[10]: https://www.axios.com/2025/07/16/ai-bot-companions-teens-common-sense-media?utm_source=chatgpt.com “Teens flock to companion bots despite risks”
[11]: https://artificialintelligenceact.eu/article/5/?utm_source=chatgpt.com “Article 5: Prohibited AI Practices | EU Artificial Intelligence Act”
[12]: https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act?utm_source=chatgpt.com “Commission publishes the Guidelines on prohibited artificial …”
[13]: https://www.lemonde.fr/en/science/article/2026/01/24/generative-ai-psychiatry-and-the-risks-of-self-service-therapy_6749752_10.html?utm_source=chatgpt.com “Generative AI, psychiatry and the risks of self-service therapy”
[14]: https://link.springer.com/article/10.1007/s12599-025-00955-1?utm_source=chatgpt.com “Social-Oriented Communication with AI Companions: Benefits …”
[15]: https://www.sciencedirect.com/science/article/pii/S1364661323001997?utm_source=chatgpt.com “Prediction during language comprehension: what is next?”
Partecipa alla community