La crescente diffusione dei sistemi di intelligenza artificiale generativa capaci di simulare conversazioni umane e instaurare relazioni emotive con gli utenti ha determinato, negli ultimi anni, l’emersione di nuove esigenze regolatorie.
Tanto in Europa quanto in Cina il legislatore ha percepito il rischio che tali strumenti possano incidere profondamente sulla sfera psicologica, relazionale e cognitiva degli individui, soprattutto dei soggetti più vulnerabili.
In questo contesto si collocano, da un lato, la proposta di legge italiana A.C. 2813, recante “Disposizioni in materia di utilizzazione da parte dei minori di servizi interattivi che simulano conversazioni umane mediante sistemi di intelligenza artificiale generativa”, e, dall’altro, le “Interim Measures for the Administration of Human-like Interactive Services Provided by Artificial Intelligence” adottate dalla Cyberspace Administration of China (CAC).
Sebbene entrambi i testi normativi siano accomunati dalla volontà di disciplinare le interazioni uomo-macchina basate su IA conversazionale, essi riflettono modelli giuridici e culturali profondamente differenti.
Indice degli argomenti
IA conversazionale e minori: il quadro italiano
La proposta italiana nasce in un contesto europeo caratterizzato dalla centralità dei diritti fondamentali della persona, della protezione dei dati personali e della tutela dei minori. Già nella relazione introduttiva emerge chiaramente come il legislatore italiano sia particolarmente preoccupato per il crescente utilizzo dei chatbot da parte degli adolescenti come strumenti di conforto emotivo e supporto psicologico.
Viene infatti richiamato il dato secondo cui una quota significativa di giovani utilizza sistemi di IA per affrontare momenti di tristezza, ansia o solitudine, fino a percepire con tali sistemi una relazione che trascende la semplice interazione tecnica.
Il testo legislativo italiano si sviluppa dunque attorno all’idea che l’intelligenza artificiale conversazionale possa creare forme di dipendenza emotiva e di sostituzione delle relazioni umane, con effetti particolarmente pericolosi per i minori.
Il modello cinese tra sicurezza nazionale e ordine sociale
Diversamente, la normativa cinese si inserisce all’interno di un sistema di governance digitale molto più ampio, nel quale la regolazione dell’intelligenza artificiale costituisce anche uno strumento di tutela della sicurezza nazionale, dell’ordine sociale e della stabilità politica.
L’articolo 1 delle misure CAC dichiara espressamente che la disciplina è finalizzata non solo alla protezione dei diritti dei cittadini, ma anche alla salvaguardia della sicurezza nazionale e dell’interesse pubblico.
Questa impostazione evidenzia immediatamente una differenza di prospettiva: mentre il legislatore italiano considera prioritario il benessere psicologico del minore, quello cinese interpreta l’IA antropomorfica anche come una possibile infrastruttura critica suscettibile di incidere sulla sicurezza dello Stato.
Le definizioni di servizi interattivi e IA antropomorfica
Le differenze emergono già sul piano definitorio. La proposta italiana definisce i servizi interattivi basati su IA come sistemi digitali idonei a creare “un’esperienza di conversazione personalizzata” capace di generare relazioni che possono comportare un coinvolgimento emotivo. L’attenzione è quindi posta sulla dimensione relazionale e sull’effetto psicologico prodotto dalla continuità dell’interazione.
La normativa cinese utilizza invece il concetto di “anthropomorphic interactive services”, sottolineando la capacità dei sistemi di simulare tratti della personalità, modelli di pensiero e stili comunicativi tipici degli esseri umani. Il legislatore cinese mostra dunque una sensibilità verso il rischio di antropomorfizzazione dell’intelligenza artificiale, ossia verso la possibilità che gli utenti attribuiscano alla macchina caratteristiche umane tali da alterare la percezione della realtà.
Tutela dei minori e limiti alla memoria conversazionale
Entrambi i testi individuano nella tutela dei minori uno dei principali obiettivi della regolazione, ma lo fanno con modalità molto differenti. La proposta italiana prevede anzitutto l’obbligo di verifica dell’età degli utenti, demandando all’AGCOM la definizione delle modalità tecniche di controllo nel rispetto della normativa europea sulla protezione dei dati personali.
L’elemento centrale della disciplina italiana è però costituito dal limite massimo di cinque giorni per la conservazione delle conversazioni intrattenute con utenti minori di diciotto anni quando esse possano comportare un coinvolgimento emotivo.
Tale previsione risponde all’esigenza di evitare che il chatbot sviluppi una memoria relazionale continuativa capace di simulare rapporti di amicizia, supporto psicologico o relazioni affettive stabili. La logica sottostante è chiaramente preventiva: limitando la persistenza delle conversazioni, il legislatore tenta di impedire la costruzione di un legame emotivo duraturo tra il minore e la macchina.
La Minor Mode prevista dalla disciplina cinese
La disciplina cinese affronta la questione con un approccio molto più articolato.
L’articolo 14 vieta espressamente ai minori l’accesso a servizi che simulino relazioni intime virtuali, come partner romantici o familiari virtuali. Inoltre, i fornitori devono implementare una “Minor Mode”, ossia una modalità specificamente progettata per i minori, comprendente limiti temporali di utilizzo, avvisi periodici che ricordino all’utente la natura artificiale dell’interazione, strumenti di controllo parentale e persino la possibilità per i genitori di bloccare determinati personaggi virtuali. Rispetto alla proposta italiana, la normativa cinese appare quindi più prescrittiva e tecnologicamente interventista.
Essa non si limita a ridurre la continuità relazionale, ma costruisce un sistema integrato di monitoraggio e supervisione del comportamento digitale del minore.
Protezione dei dati personali tra modello europeo e cinese
Anche sotto il profilo della protezione dei dati personali emergono differenze rilevanti. La proposta italiana, coerente con un modello europeo fondato sul rinvio a strumenti di soft law e sull’intervento di autorità indipendenti, richiama il rispetto dei principi europei in materia di privacy e rimette alle future linee guida dell’AGCOM la definizione delle misure operative.
La normativa cinese contiene invece una disciplina dettagliata del trattamento dei dati. I fornitori dei servizi devono adottare misure di cifratura, sistemi di controllo degli accessi e procedure di protezione contro le violazioni di sicurezza. È inoltre previsto il diritto dell’utente a ottenere la copia o la cancellazione dei dati conversazionali, mentre l’utilizzo di dati sensibili per l’addestramento dei modelli richiede un consenso separato.
a precisione della disciplina cinese riflette il modello regolatorio tipico della Repubblica Popolare, fondato su obblighi tecnici dettagliati e controlli amministrativi continui.
Contenuti generati dai chatbot e controllo ideologico
La distanza tra i due sistemi diventa particolarmente evidente nella disciplina dei contenuti generati dai chatbot. La proposta italiana non introduce specifici obblighi di moderazione ideologica o politica dei contenuti, concentrandosi nel perseguire finalità di tutela psicologica e relazionale dei minori.
Le misure CAC, invece, contemplano specifici divieti. Il controllo dell’IA conversazionale assume quindi in Cina una funzione politica oltre che sociale. Il chatbot non è considerato soltanto un potenziale rischio per il benessere individuale, ma anche un possibile veicolo di destabilizzazione ideologica.
Dipendenza emotiva e manipolazione dell’utente
Un ulteriore elemento di interesse riguarda il tema della dipendenza emotiva. Entrambi i testi riconoscono che i sistemi conversazionali avanzati possano indurre gli utenti a sviluppare forme di attaccamento psicologico. Tuttavia, la normativa cinese affronta tale problema con una differente ampiezza. Essa vieta esplicitamente i contenuti che inducano dipendenza o manipolazione emotiva e impone ai fornitori di introdurre reminder periodici destinati a ricordare all’utente che sta interagendo con un’intelligenza artificiale e non con una persona reale.
Inoltre, i sistemi non possono essere progettati con l’obiettivo di sostituire le relazioni sociali umane o indurre dipendenza psicologica. La proposta italiana, pur condividendo la stessa preoccupazione di fondo, affronta indirettamente il fenomeno attraverso la restrizione della memoria conversazionale.
Controlli amministrativi e sanzioni
Diversa appare anche la struttura dei controlli amministrativi. La proposta italiana attribuisce all’AGCOM funzioni di vigilanza e il potere di irrogare sanzioni amministrative fino al 2% del fatturato dell’operatore.
La normativa cinese, invece, impone ai fornitori obblighi permanenti di risk assessment, audit di sicurezza, verifiche algoritmiche e controlli etici. Sono inoltre previsti security assessment obbligatori per i servizi che superino un milione di utenti registrati o che presentino rischi significativi per la sicurezza pubblica.
Le autorità amministrative possono disporre sospensioni del servizio, blocchi delle registrazioni e rimozioni dagli app store. Si tratta di un modello di supervisione che si distingue rispetto a quello europeo.
Chatbot antropomorfici e governance tecnologica globale
In conclusione, il confronto tra la proposta italiana A.C. 2813 e le misure adottate dalla Cyberspace Administration of China evidenzia due differenti concezioni della regolazione dell’intelligenza artificiale conversazionale.
Il modello italiano, coerente con la tradizione europea, privilegia la tutela dei diritti individuali, la protezione dei minori e la limitazione della dipendenza emotiva attraverso strumenti selettivi e mirati. Il modello cinese, invece, si fonda su una visione sistemica nella quale l’IA rappresenta contemporaneamente una tecnologia economica, una infrastruttura sociale e un potenziale rischio politico.
Per questa ragione la regolazione cinese risulta più ampia, dettagliata e orientata al controllo preventivo. Entrambi i sistemi, tuttavia, condividono un presupposto fondamentale: i chatbot antropomorfici non possono più essere considerati semplici strumenti digitali, poiché la loro capacità di influenzare emozioni, relazioni e comportamenti umani li rende soggetti centrali della futura governance tecnologica globale.
