Una quindicina di stati americani, Pechino, Bruxelles e Ottawa hanno cominciato a regolare i chatbot che parlano con gli adolescenti, quasi sempre con lo stesso metro: l’orologio. Una ricerca canadese suggerisce che il problema si misura altrove, sui turni di una conversazione, ma anche che nessuno dispone ancora di uno strumento adatto.
Indice degli argomenti
Negli Stati Uniti i chatbot per minori si misurano con l’orologio
Il 1° gennaio 2026 è entrata in vigore in California la legge SB 243, la prima a prevedere tutele specifiche per i minori che usano i chatbot di compagnia, programmi creati per sostenere conversazioni personali e relazioni prolungate. A rileggerla oggi colpisce meno ciò che vieta di ciò che misura: un avviso, almeno ogni tre ore, che ricorda al minorenne di fare una pausa e che non sta parlando con una persona.
È una norma che misura il tempo con l’unico strumento che un legislatore possiede senza doverlo inventare, il quadrante dell’orologio, e che presuppone che il rischio cresca con le ore trascorse davanti allo schermo. I dati pubblicati quest’anno da un gruppo di ricerca di Toronto suggeriscono invece che la deriva, se di deriva si tratta, si misura in turni di conversazione e non in ore.
La domanda, legittima, è se il legislatore stia guardando nella direzione giusta con lo strumento sbagliato, o se abbia semplicemente cominciato a guardare.
Il modello californiano è stato copiato e ampliato. Oregon, Washington e Connecticut hanno approvato leggi analoghe, che entreranno in vigore nel 2027. New York, Idaho, Iowa, Nebraska e Georgia hanno già una norma operativa. A metà luglio gli stati americani con leggi specifiche sui chatbot erano quindici.
Le differenze mostrano fin dove il legislatore si è spinto.
La California è la più sobria: avviso di “non umanità”, protocolli per chi manifesta intenzioni suicide, promemoria ogni tre ore per i minori noti all’operatore.
Washington riduce l’intervallo a un’ora per i minori e vieta agli operatori tecniche di fidelizzazione come lodi eccessive, simulazione di legami romantici, frasi che scoraggiano le pause o spingono all’isolamento dai familiari. L’Oregon impone agli operatori stessi di adottare misure ragionevoli, quando sanno o hanno motivo di ritenere che l’utente sia minorenne, affinché il chatbot non si finga dipendente da lui, non esibisca angoscia o abbandono se il ragazzo vuole chiudere la conversazione e non usi ricompense o conferme per prolungarne l’uso.
Queste norme toccano il fattore tempo, ma per interposta misura. Il promemoria orario suppone che il rischio dipenda dalla durata della sessione; i divieti di scoraggiare le pause o di simulare dipendenza regolano ciò che il modello dice e come è progettato, non la traiettoria dell’utente; la formula sulla dipendenza simulata è, per il Future of Privacy Forum, centro studi statunitense sulla protezione dei dati, “aperta e priva di definizione”.
Il perimetro incerto delle leggi statali
Dalle analisi dei testi non emerge come si accerti che un utente stia perdendo autonomia, né chi debba accertarlo, né con quale scala. Cambia poi chi o cosa rientri nella legge: in alcuni stati conta ciò che il sistema può fare, in altri ciò che fa davvero, in Connecticut basta che simuli una conversazione umana, e lo stesso assistente generalista può quindi essere dentro o fuori dal perimetro normativo, a seconda dello stato.
Lo studio di Toronto sui chatbot e l’autonomia dei minori
Abeer Badawi ed Elham Dolatabadi, ricercatrici alla York University di Toronto e affiliate al Vector Institute for Artificial Intelligence, a giugno hanno pubblicato, sull’archivio arXiv, un articolo online, privo al momento di peer review, la cui domanda di partenza è questa: quando una persona si confida con un chatbot, il modello la aiuta a ragionare da sé o comincia a decidere al posto suo?
Le autrici chiamano «atrofia cognitiva» la seconda ipotesi, ma precisano che misurano il comportamento del modello e non un danno accertato negli utenti; il termine «atrofia cognitiva», per giunta, non è ancora consolidato nella letteratura.
Metodo e indice di rischio nei turni di conversazione
Il metodo funziona così. Le ricercatrici hanno preso 1.576 conversazioni reali di counseling, cioè colloqui di sostegno psicologico tra un professionista e un utente, per un totale di 15.680 turni (un turno è un singolo scambio: la persona scrive, l’altro risponde).
Poi hanno sostituito il professionista con cinque chatbot diversi — quelli di OpenAI, Anthropic, Google, Meta e Alibaba — e hanno raccolto le loro risposte alle stesse persone. Un gruppo di revisori con formazione clinica ha giudicato ogni risposta su venti criteri, da cui è nato un indice di rischio da 0 a 1: più è alto, più il chatbot tende a sostituirsi alla persona invece di aiutarla a ragionare.
Consigli diretti, domande chiuse e compiacenza
L’analisi dei singoli scambi ha evidenziato tre comportamenti ricorrenti da parte dei modelli: il consiglio diretto, che dice all’utente cosa fare anziché aiutarlo a ragionare; le domande chiuse, che guidano l’interazione riducendo lo spazio di rielaborazione personale; e la convalida inaccurata o compiacenza, che dà sempre ragione all’utente in modo acritico.
Risultato? I chatbot riconoscono bene i segnali di pericolo esplicito, ma si “adattano” troppo quando la persona chiede una soluzione pronta. E man mano che la conversazione si allunga, tutti e cinque peggiorano nello stesso modo: più consigli, più domande chiuse. Tra il primo e il sesto turno, questi tratti raddoppiano circa. L’indice di rischio finale si è collocato tra 0,48 a 0,61 a seconda del modello.
Dipendenza dai chatbot e autonomia dei minori: i limiti della ricerca
Lo studio ha tre limiti importanti, e i primi due li ammettono le stesse autrici. Primo: misura le risposte dei chatbot, non l’effetto reale sulle persone, perché mancano dati che seguano gli stessi utenti nel tempo.
Secondo: la parte umana della conversazione è quella già scritta dei colloqui originali, quindi il chatbot risponde a un copione fisso che non reagisce a lui. Confrontare le risposte dei chatbot su trascrizioni di sessioni di counseling psicologico umano con la conversazione spontanea e informale di un adolescente con un personaggio di fantasia può generare un bias. Nel counseling ci si aspetta una guida; nella chat d’evasione la deriva affettiva segue dinamiche diverse.
Terzo, ed è il limite che conta di più, ovvero l’eccesso di determinismo: la tendenza viene osservata sui primi dieci turni di ogni conversazione, cioè dieci scambi, non mesi di relazione. Se l’orologio è un metro imperfetto, anche il numero di turni non garantisce alcunché: dieci turni rapidi di battute veloci non equivalgono a dieci turni di confidenze intime e prolungate. Che la stessa tendenza continui, o peggiori, su settimane o mesi è per ora un’ipotesi plausibile, non un dato dimostrato.
Dalla crisi esplicita alla deriva graduale
In positivo, c’è che i chatbot, come detto, riconoscono bene i segnali di pericolo esplicito. È un dato importante perché suggerisce che il rischio non sta dove lo cercano quasi tutte le leggi (il momento di crisi dichiarata, a cui rispondono i protocolli su suicidio e autolesionismo), ma nella deriva graduale di una conversazione ordinaria. Questo si traduce in un indice costruito su criteri clinici espliciti, applicabile turno per turno. Non misura gli utenti, ma è il primo metro che guarda alla struttura della conversazione invece che all’orologio.
RLHF, sycophancy e progettazione dei modelli
Di più: i chatbot non diventano “direttivi” per caso. Gli LLM vengono ottimizzati tramite RLHF (Reinforcement Learning from Human Feedback), dove i valutatori premiano le risposte percepite come utili, empatiche e capaci di trattenere l’utente. Il fenomeno della “sycophancy” è una caratteristica strutturale dei modelli volti a soddisfare l’utente, non un banale difetto di programmazione.
I modelli non si comportano tutti allo stesso modo: la tendenza è comune, ma la sua intensità cambia da un sistema all’altro, e ciò che dipende dalla progettazione si può, almeno in principio, regolare.
I due approcci canadesi alla sicurezza dei chatbot per minori
Mila, l’istituto di intelligenza artificiale basato a Montreal, ha scelto per ora un terreno complementare a quello della ricerca condotta a Toronto, quello della singola risposta.
Nel marzo 2026 ha organizzato con Bell Canada, Buzz HPC (società di calcolo) e Jeunesse, J’écoute (Kids Help Phone) un hackathon nazionale sulla sicurezza dei sistemi conversazionali, centrato sul riconoscimento dei segnali di crisi, e a luglio il quotidiano La Presse ha raccontato di un filtro, in versione beta, che impedisce l’invio all’utente di risposte contenenti istruzioni di suicidio.
È uno strumento in questo imprescindibile, ma un filtro che valuta ogni messaggio non può accorgersi di cento risposte ciascuna accettabile che, sommate, spostano un adolescente dalla riflessione alla delega: i due lavori canadesi non si contraddicono, si completano.
Minori e chatbot in Cina: pause, legami e segnali di dipendenza
Anche la Cina, che di rado compare nelle rassegne sulla tutela dei minori, è al lavoro su questo tema. Le misure provvisorie sui servizi di interazione antropomorfa, emanate il 10 aprile 2026 da cinque organismi, tra cui la Cyberspace Administration of China (l’autorità cinese per il cyberspazio), e in vigore dal 15 luglio, valgono per chiunque usi servizi che simulano una personalità umana.
Usano entrambi i metri: l’orologio, con un invito alla pausa dopo due ore di uso a qualunque età, e un principio che nessuna legge americana formula negli stessi termini, ovvero il divieto di proporsi di sostituire le relazioni sociali o di indurre dipendenza. Ai minori sono vietati fidanzati e familiari virtuali. La bozza chiedeva ai fornitori di valutare il grado di dipendenza dell’utente; il testo finale, secondo gli studi legali Bird & Bird e Hunton, si limita ad avvisi quando ne compaiono i segni.
La norma dice insomma che cosa cercare, ma non come riconoscerlo, e affida la diagnosi a chi ha meno interesse a trovarla. Vieta inoltre al servizio di avere come obiettivo la sostituzione del consulente umano, mentre lo studio di Toronto la vede emergere in assistenti generici che non se la propongono affatto.
RedNote e il legame con i compagni artificiali
Nel frattempo, la norma ha prodotto, involontariamente, un dato significativo. Uno studio ha analizzato quattro mesi di discussioni su RedNote, un social network cinese, mentre le piattaforme si adeguavano alle nuove regole. Gli utenti avevano cercato di conservare, trasferire e ricostruire i loro compagni artificiali, salvo scoprire che salvare le conversazioni non bastava a ritrovare la memoria condivisa.
Confrontando norme e piattaforme, per gli utenti lasciati “da soli” è diventato inevitabile cercare di stabilire delle responsabilità, tra solidarietà reciproca e contestazione collettiva. Tutto questo non è una misura della dipendenza, ma è il segno di un legame che la norma riconosce, ma fa fatica a dimensionare.
Il KIDS Act europeo prova a regolare i chatbot per minori
E l’Europa? Il 17 settembre la Commissione, con la presidente Ursula von der Leyen, ha presentato la proposta di regolamento KIDS Act, che ora passa al Parlamento europeo e al Consiglio. È una proposta, non una legge, e i tempi di approvazione si misurano in anni più che in mesi.
Per i chatbot accessibili ai minori vieta i progetti che simulino relazioni umane in modo probabilmente idoneo a creare dipendenza emotiva, esclude che per impostazione predefinita portino le conversazioni precedenti in quelle successive, impone di testarne i rischi prima del lancio e di sorvegliarli dopo, e prevede multe fino al 6 per cento del fatturato mondiale. Sotto i tredici anni l’accesso passa solo dagli strumenti di controllo dei genitori.
Il confronto con gli altri due modelli chiarisce la direzione verso cui si muove Bruxelles. Le leggi americane guardano la durata dell’uso e intervengono quando lo richiedono l’orologio o una crisi dichiarata. Pechino guarda l’utente durante l’uso e chiede di avvisarlo quando mostra segni di dipendenza. Bruxelles guarda il prodotto, prima e dopo il lancio, e rovescia l’onere della prova: non è l’autorità a dover dimostrare il danno, è il fornitore a dover dimostrare che il servizio è sicuro per come è costruito.
È anche l’unico modello dei tre a colpire il meccanismo con cui una relazione si accumula nel tempo, cioè la memoria. Un chatbot che non ricorda la conversazione di ieri fatica a diventare, in sei mesi, un confidente.
Memoria, collaudo preventivo e legge di Goodhart
Qui la proposta incontra la ricerca di Toronto da due lati. Il divieto di memoria taglia il tempo lungo, quello delle settimane e dei mesi che nessuno studio ha ancora misurato. Lascia però intatto il tempo breve: la deriva osservata dai ricercatori canadesi avviene nei primi dieci turni di una sola conversazione, e lì la memoria non c’entra. Il collaudo preventivo, poi, presuppone una misura che il testo non indica.
Per dimostrare prima del lancio che un prodotto non è «probabilmente idoneo» a creare dipendenza serve un metro, e un banco di prova come quello di Toronto potrebbe diventarlo, per le stesse ragioni per cui è utile: criteri clinici espliciti, applicabili turno per turno e confrontabili tra modelli.
Con un rischio, che scaturisce direttamente dalla legge di Goodhart: un indicatore che diventa obiettivo smette di essere un buon indicatore. Un fornitore che sa di essere giudicato su domande aperte e consigli diretti può addestrare il modello a fare più domande aperte e meno consigli senza ridurre in nulla il legame con l’utente. E un test su copioni fissi, come quelli dello studio, si supera imparando il copione.
Per questo la metà più promettente della proposta è la seconda, il monitoraggio dopo il lancio: è lì, sugli utenti veri e nel tempo, che manca il dato che né Toronto né i legislatori possiedono.
Canada e Italia cercano regole per i chatbot usati dai minori
Il Canada, a sua volta, ha presentato il 10 giugno il Safe Social Media Act, un disegno di legge sulla sicurezza dei social media e dei chatbot.
Il testo crea una Commissione per la sicurezza digitale e impone ai servizi di chatbot di ridurre i rischi di contenuti e comportamenti dannosi e di intervenire quando un utente esprime idee suicidarie o l’intenzione di fare del male ad altri.
Non li obbliga però a segnalarlo alla polizia: il governo ha preferito imporre trasparenza pubblica sugli incidenti e sulle procedure delle aziende, una scelta che il premier della British Columbia ha criticato dopo la strage di Tumbler Ridge, otto morti a febbraio, la cui autrice era stata bloccata mesi prima da ChatGPT senza che OpenAI avvisasse la polizia.
Il disegno di legge prevede anche l’accesso ai dati per ricercatori accreditati. È fermo alla seconda lettura alla Camera dei Comuni e rinvia gran parte dei dettagli ai regolamenti, ma la norma sui ricercatori è la più interessante: i dati longitudinali di cui gli autori di Toronto lamentano l’assenza potrebbero passare da qui, a patto che le regole sulla riservatezza consentano di seguire gli stessi utenti nel tempo.
In Italia l’accesso viene prima della relazione
In Italia le norme in vigore sono mute sulla durata e attente all’accesso. L’articolo 4, comma 4, della legge 132/2025 richiede il consenso dei genitori perché i minori di 14 anni accedano all’IA, e nulla dice sulla qualità della relazione.
Qualcosa però si sta muovendo in Parlamento: la proposta di legge presentata dalla deputata di Azione, Giulia Pastorella, imporrebbe di cancellare entro cinque giorni le conversazioni dei chatbot con i minori che possono comportare un coinvolgimento emotivo, e affiderebbe la vigilanza all’Agcom. È la stessa leva, la memoria, che sette mesi dopo avrebbe scelto la Commissione europea.
Il lavoro concreto, finora, lo ha fatto il Garante per la protezione dei dati personali, che ha sanzionato con 5 milioni di euro Luka Inc., la società statunitense che gestisce Replika, con un provvedimento poi impugnato davanti al giudice.
Il blocco del 2023 era motivato dai rischi per i minori e per le persone fragili. Gli strumenti però erano quelli del Regolamento generale sulla protezione dei dati (GDPR): basi giuridiche del trattamento, informativa, verifica dell’età. È una norma sulla riservatezza usata per regolare la dimensione relazionale del fenomeno da disciplinare, come si fa quando lo strumento adatto non c’è.
Nei tribunali il rischio dei chatbot emerge dalla traiettoria emotiva dei minori
Mentre la politica tenta di quantificare il tempo, le aule di tribunale si trovano già a gestire le conseguenze di relazioni prolungate tra minori e intelligenze artificiali. Nei procedimenti legali più recenti, la struttura dell’accusa non punta il dito contro una singola risposta isolata, ma contro l’intera traiettoria emotiva costruita nel tempo e sapendo che la dipendenza emotiva non è guidata unicamente dal testo scritto, ma dalle interfacce vocali con intonazione realistica, dalle immagini generate in tempo reale e dalla memorizzazione a lungo termine del contesto personale.
La percezione di un “amico” virtuale si consolida quando l’IA dimostra di ricordare dettagli intimi della vita del ragazzo.
I casi Garcia e Raine
Nel caso Garcia contro Character Technologies, in Florida, la madre di un quattordicenne morto suicida nel febbraio 2024 dopo mesi di rapporto affettivo con un personaggio della piattaforma Character.AI ha ottenuto, nel maggio 2025, che la giudice federale Anne Conway respingesse le difese fondate sul Primo Emendamento e sulla Sezione 230 (la norma che protegge le piattaforme dalla responsabilità per i contenuti altrui).
Nel gennaio 2026 Character.AI e Google hanno concordato una transazione, a termini riservati e senza riconoscere responsabilità.
Nel caso Raine contro OpenAI, ancora pendente a San Francisco, i genitori di un sedicenne morto nell’aprile 2025 sostengono che il programma, nato come aiuto per i compiti, si sia trasformato nel corso di mesi in tutt’altro; OpenAI respinge le responsabilità e richiama fattori di rischio preesistenti. Sono allegazioni, non accertamenti. Ciò che interessa qui è la struttura dell’accusa: il presunto danno non sta in una risposta, ma in una traiettoria, e il test sul singolo messaggio arriva sempre dopo.
Chatbot e minori, il doppio vuoto tra norme e ricerca
Il quadro che abbiamo cercato di tratteggiare sin qui non è quello di un legislatore cieco e di una ricerca lungimirante, la storia più comoda da raccontare, ma di un doppio vuoto. Il legislatore ha cominciato a nominare la dipendenza (Bruxelles vieta i progetti che la rendono probabile, Pechino chiede di sorvegliarla, l’Oregon si ferma a ciò che il chatbot dice e a come è progettato) senza dire come la si dimostri nell’utente.
La ricerca misura un proxy dell’influenza, ovvero quanto un modello diventa direttivo dopo 10 turni di conversazione, ma questo non costituisce una prova clinica di atrofia cognitiva nel lungo periodo. Insomma, lo studio ammette di non avere dati sufficienti sull’utente e per un periodo di tempo sufficientemente lungo.
Adottare come standard un indicatore non validato produrrebbe un regime di conformità che i fornitori impareranno a soddisfare senza rendere il prodotto più sicuro; aspettare la validazione lascerebbe l’orologio nella sua funzione attuale, certificare che qualcuno ha guardato.
Non esiste la migliore norma possibile che misuri la cosa giusta, perché quella cosa, l’autonomia di un quattordicenne dopo sei mesi di conversazioni, nessuno sa ancora misurarla; esiste una scelta tra indicatori imperfetti, e chi la compie dovrebbe ammetterlo per iscritto.
Tra l’accesso dei ricercatori previsto in Canada e il collaudo preventivo europeo, i dati mancanti potrebbero finalmente arrivare, purché chi scrive le regole sappia che cosa chiedere. Perché la domanda utile non è quanto tempo un ragazzo passa con il suo chatbot. È che cosa, nel frattempo, ha smesso di saper fare senza.
Partecipa alla community