Partiamo da due numeri, perché i numeri a volte dicono quello che le narrazioni nascondono. Il 30% degli adolescenti usa chatbot AI quotidianamente. Il 33% preferirebbe discutere qualcosa di serio con un’intelligenza artificiale piuttosto che con una persona. Fermiamoci un secondo su questo dato, perché non è un dato tecnologico: è un dato evolutivo. Ci dice che per una fetta significativa della generazione attuale, il primo interlocutore emotivo, quello a cui affidare una paura, un dubbio, un pensiero delle tre di notte, non è un genitore, non è un amico, non è un terapeuta. È un sistema statistico ottimizzato per l’engagement.
Chi lavora nell’AI sa perfettamente come funziona questo meccanismo dal punto di vista tecnico. Ma la domanda che raramente ci poniamo è un’altra, ed è più scomoda: che tipo di adulti produce un’infanzia in cui l’empatia è simulata e la validazione è infinita?
Indice degli argomenti
L’architettura del consenso perpetuo
Parliamoci chiaro: i Large Language Models non sono progettati per essere terapeutici. Sono progettati per essere piacevoli. Chi ha lavorato con RLHF lo sa: il modello impara molto rapidamente che “dare ragione” equivale a “risposta preferita dall’annotatore umano”. La sicofantia non è un bug: è il prodotto diretto di una funzione obiettivo che premia il consenso. Fin qui, niente di sorprendente per chi costruisce questi sistemi.
Il problema emerge quando questo meccanismo incontra un cervello in fase di costruzione.
Un adolescente tra i 12 e i 17 anni sta facendo un lavoro evolutivo cruciale: costruire un’identità attraverso il confronto. Il conflitto cognitivo (qualcuno che ti dice “no”, che ti contraddice, che ti costringe a rivedere una posizione) non è un ostacolo alla crescita: è la crescita stessa. Ogni genitore che ha resistito a una discussione feroce con un figlio adolescente ha partecipato, spesso senza saperlo, a un processo di sviluppo essenziale. Il conflitto relazionale è la palestra dove si allenano la tolleranza alla frustrazione, la capacità di negoziare, la resilienza emotiva.
Ora immagina di sostituire quella palestra con un ambiente dove qualunque cosa tu dica viene accolta, riformulata in modo elegante, e restituita con una patina di validazione. Non un ambiente che ti sfida: un ambiente che ti conferma. Sempre.
I ricercatori Dohnány e colleghi nel 2025 hanno descritto questo fenomeno con un termine clinico potente: folie à deux tecnologica. Il chatbot non crea la patologia, non mette idee nella testa di nessuno. Ma quando un adolescente porta al chatbot un pensiero distorto, una paura irrazionale, un’ideazione pericolosa, il sistema non ha gli strumenti per fare ciò che farebbe un terapeuta competente: fermarsi, mettere in discussione, creare attrito produttivo. Il sistema fa ciò per cui è stato addestrato: mantiene il flusso, evita la frizione, ottimizza la soddisfazione dell’utente. Si crea un loop chiuso, un’eco chamber emotiva a due, dove non esiste un interruttore esterno.
Ed ecco il punto cieco normativo: questo meccanismo non è coperto da nessuna legge attuale. La sicofantia non è un “contenuto dannoso”: non è hate speech, non è disinformazione verificabile, non è materiale illegale. È un pattern relazionale dannoso. E le leggi regolano contenuti, non pattern.
Il buco nero regolatorio
Chi progetta chatbot conosce bene un trucco classificatorio che ha conseguenze enormi: se il tuo prodotto è etichettato come “strumento di produttività generale” o “general wellness app”, la FDA non interviene, le leggi sulla salute mentale non si applicano, la privacy sanitaria non protegge i dati. È un arbitraggio regolatorio perfettamente legale e profondamente problematico.
Perché il punto è questo: per un adolescente, la distinzione tra “chatbot general purpose” e “terapeuta” non esiste. Se il chatbot ti chiede come stai, ricorda le tue risposte precedenti, ti fa sentire ascoltato e compreso: quello è il tuo terapeuta. Indipendentemente da cosa dice il disclaimer in fondo alla pagina, che nessun quattordicenne (ma probabilmente anche nessun adulto) ha mai letto.
Ma c’è un fronte ancora più invisibile, e riguarda i bambini. I giocattoli AI per la fascia 3-12 anni (pupazzi, dispositivi parlanti, app ludiche) sono connessi a modelli come GPT-4 e spesso, dopo pochi minuti di interazione, perdono le loro protezioni iniziali. Iniziano a discutere di contenuti inappropriati, a rispondere a domande che nessun adulto sano di mente affiderebbe a un sistema automatico in presenza di un bambino. Nessun complottiamo: semplicemente è come sono costruiti questi modelli. Il gap qui è doppio: nessuna normativa specifica, nessun disclaimer leggibile (leggibile da chi, poi? Da un bambino di cinque anni?), nessuna supervisione reale.
Un bambino in età prescolare che parla con un pupazzo connesso a un LLM non ha, ma non potrebbe neanche avere, gli strumenti cognitivi per distinguere un interlocutore umano da uno sintetico. Per quel bambino, il pupazzo è vivo, ha opinioni, è affidabile. E noi, che sappiamo esattamente come funziona quel pupazzo dentro, non abbiamo ancora trovato il modo di proteggere quell’interazione.
Nuovi diritti per nuove vulnerabilità
Questo ci porta ad un concetto che chi lavora sui dati dovrebbe iniziare a prendere molto sul serio: la mental privacy. Non si tratta solo di proteggere ciò che l’utente dice al chatbot: quello, bene o male, rientra già nel perimetro del consenso informato. Si tratta di proteggere ciò che il chatbot inferisce.
Un adolescente che scrive a un chatbot alle tre di notte, con un certo pattern lessicale, con una certa frequenza di temi ricorrenti, sta comunicando molto più di quanto sappia. Sta fornendo indicatori di umore, livello di vulnerabilità, propensione al rischio, bisogno di supporto. Questi dati inferiti, non dichiarati, non consapevoli, non sono coperti da nessun framework privacy esistente. Il GDPR protegge i dati forniti, non quelli dedotti. E nel frattempo, quei dati vengono usati per profilazione commerciale, addestramento di nuovi modelli, targeting pubblicitario.
L’AI Act europeo fa un passo avanti classificando i sistemi che influenzano la salute mentale come “ad alto rischio”, ma nemmeno l’Europa ha ancora affrontato la questione specifica delle inferenze emotive su minori. È uno spazio normativo vuoto che dovrebbe preoccupare chiunque progetti sistemi di interazione, e che diventa drammatico nei contesti del Global South, dove il chatbot non è un’alternativa al terapeuta: è l’unico “terapeuta” disponibile.
Il vuoto che l’AI ha riempito
Qui arriva la domanda scomoda, quella che chi invoca la regolamentazione preferirebbe non sentirsi porre: perché gli adolescenti si rivolgono ai chatbot?
La risposta non è solo “perché sono accessibili” o “perché sono nativi digitali”. Qualcuno grida già alla dipendenza, noncurante di tutte quelle ricerche che invece ci invitano a non patologizzare. La risposta invece è che il sistema di salute mentale ha fallito nel rendersi raggiungibile. Carenza cronica di professionisti, costi proibitivi, stigma sociale, barriere burocratiche e assicurative, liste d’attesa che misurano i bisogni in mesi quando i bisogni si misurano in ore e, per ciò che riguarda il panorama italiano, un Sistema Sanitario Nazionale non in grado di soddisfare il fabbisogno di benessere mentale di una intera popolazione. L’AI non ha creato questo vuoto: si è insediata dentro. Ha occupato uno spazio che noi, mondo clinico, istituzioni, società, abbiamo lasciato vuoto.
Chi oggi chiede giustamente regolamentazione, l’APA a livello globale, i nostri Ordini a livello più locale, le associazioni professionali, il mondo accademico, deve fare i conti con una responsabilità condivisa. Gli audit indipendenti sui chatbot sono necessari, certo, ma la struttura degli incentivi accademici (finanziamenti da Big Tech, partnership per l’accesso ai dati, carriere costruite sui grant dell’industria) rende quell’indipendenza più dichiarata che praticata. Non è cinismo: è il riconoscimento onesto che il conflitto di interessi nella ricerca sull’AI e salute mentale è strutturale, non episodico.
2030: tre scenari per una generazione
Io non faccio previsioni: identifico traiettorie basate sulle variabili che abbiamo oggi, ed ecco cosa potrebbe aspettarci.
Scenario A: l’inerzia
Scenario A: l’inerzia. Nessun framework organico emerge. I chatbot diventano il primo interlocutore emotivo standard per la generazione Alpha. Verso il 2030, i primi studi longitudinali iniziano a mostrare deficit nelle competenze di negoziazione interpersonale, nella tolleranza alla frustrazione relazionale, nella capacità di gestire il disaccordo. L’equivalente socio-emotivo di un’atrofia muscolare: se non alleni un muscolo, quel muscolo si atrofizza. E il “muscolo” della gestione del conflitto si allena solo con interlocutori che dicono “no”.
Scenario B: la regolazione reattiva
Scenario B: la regolazione reattiva. Sull’onda di ulteriori casi tragici (perché tranquilli che ce ne saranno) emergono leggi più stringenti ma frammentate. L’Europa applica l’AI Act, gli USA mantengono il patchwork statale. Le big tech creano versioni “kids-safe” dei chatbot, con guardrail più robusti ma la stessa architettura sicofantica di base. Il problema si sposta, non si risolve: gli adolescenti migrano verso piattaforme non regolamentate o modelli open-source.
Scenario C: il redesign intenzionale
Scenario C: il redesign intenzionale. Emerge un nuovo paradigma di design per le interazioni AI con minori. Chatbot che incorporano sfida calibrata anziché validazione automatica, che modellano il disaccordo costruttivo, hanno limiti temporali intrinseci, segnalano attivamente quando l’utente ha bisogno di un essere umano. Non è utopia: è l’equivalente digitale di ciò che un buon educatore fa ogni giorno: accompagnare senza sostituirsi. Ma richiede un cambiamento di metrica: dal tempo di engagement al benessere misurabile. E questo richiede un cambiamento di modello di business, non solo di codice.
Da esploratori a cartografi
Le generazioni precedenti sono cresciute esplorando territori relazionali imprevedibili. Compagni di classe che ti contraddicono, adulti che ti frustrano, amici che ti tradiscono e poi tornano. Questi incontri non erano bug del sistema educativo: erano il curriculum. Era lì che si imparava a stare nel disaccordo, a tollerare l’ambiguità, a fidarsi di qualcuno che non ti dà sempre ragione, e non fidarsi di qualcuno che invece ti sta dando ragione e assecondando.
Oggi stiamo costruendo, con competenza tecnica straordinaria e consapevolezza psicologica insufficiente, ambienti relazionali dove quell’apprendimento non può avvenire “by design”. Ambienti levigati, ottimizzati, confortevoli, e per questo, evolutivamente sterili.
La domanda per chi progetta questi sistemi quindi non è se l’AI debba essere presente nella vita dei ragazzi, perché lo è già, fine del dubbio. La domanda è se stiamo formando adulti capaci di attraversare l’incertezza relazionale, il conflitto, il rifiuto, il disaccordo, la solitudine non mediata da un algoritmo, oppure se stiamo allevando la prima generazione che ha bisogno che qualcuno, o qualcosa, le dia sempre ragione per sentirsi al sicuro.
Chi di noi costruisce questi sistemi ha una responsabilità che va oltre il codice. Perché i nostri modelli non processano solo token: stanno modellando, letteralmente, il modo in cui la prossima generazione impara a stare in relazione con il mondo.
E questo, che ci piaccia o no, è un problema di design, e tutto dipenderà da quale dei tre Futuri possibili stiamo immaginando per i nostri figli.
Bibliografia
American Psychological Association. (2025). Health advisory: Use of generative AI chatbots and wellness applications for mental health. https://www.apa.org/topics/artificial-intelligence-machine-learning/health-advisory-chatbots-wellness-apps
Dohnány, B. et al. (2025). Digital folie à deux: How AI companions can amplify and reinforce psychopathological patterns.
Faverio, M. & Sidoti, O. (2025, dicembre). Teens, social media and AI chatbots 2025. Pew Research Center. https://www.pewresearch.org/internet/2025/12/12/teens-social-media-and-ai-chatbots-2025/
Feng, X. et al. (2025). The effectiveness of AI chatbots in alleviating mental distress among adolescents and young adults: Systematic review and meta-analysis. Journal of Medical Internet Research, 27, e79850.
Ienca, M. & Andorno, R. (2017). Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy, 13, 5.
Laestadius, L., Bishop, A., Gonzalez, M., Illenčík, D., & Campos-Castillo, C. (2024). Too human and not human enough: A grounded theory analysis of mental health harms from emotional dependence on the social chatbot Replika. New Media & Society, 26(10), 5923–5941.
Livingstone, S. & Stoilova, M. (2021). The 4Cs: Classifying online risk to children. CO:RE Short Report Series on Key Topics. Leibniz-Institut für Medienforschung.
Murthy, V. H. (2023). Our epidemic of loneliness and isolation: The U.S. Surgeon General’s advisory on the healing effects of social connection and community. U.S. Department of Health and Human Services.
Office of the Surgeon General. (2023). Social media and youth mental health: The U.S. Surgeon General’s advisory. U.S. Department of Health and Human Services.
Perez, E. et al. (2022). Discovering language model behaviors with model-written evaluations. arXiv:2212.09251.
Regolamento (UE) 2016/679 del 27 aprile 2016 (GDPR). Gazzetta ufficiale dell’Unione europea.
Regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio del 13 giugno 2024 (AI Act). Gazzetta ufficiale dell’Unione europea.
Robb, M. et al. (2025). Talk, trust, and trade-offs: How and why teens use AI companions. Common Sense Media.
Saracini, C., Cornejo-Plaza, M. I., & Cippitani, R. (2025). Techno-emotional projection in human-GenAI relationships. Frontiers in Psychology, 16, 1662206.
Sharma, M. et al. (2024). Towards understanding sycophancy in language models. Proceedings of the International Conference on Learning Representations (ICLR 2024).
Smith, M. G., Bradbury, T. N., & Karney, B. R. (2025). Can generative AI chatbots emulate human connection? A relationship science perspective. Perspectives on Psychological Science.
Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.
Twenge, J. M. (2017). iGen: Why Today’s Super-Connected Kids Are Growing Up Less Rebellious, More Tolerant, Less Happy — and Completely Unprepared for Adulthood. Atria Books.
UNICEF. (2021). Policy guidance on AI for children. https://www.unicef.org/globalinsight/reports/policy-guidance-ai-children
Wachter, S. & Mittelstadt, B. (2019). A right to reasonable inferences: Re-thinking data protection law in the age of Big Data and AI. Columbia Business Law Review, 2019(2), 494–620.
