Sono le tre di notte. Qualcuno non dorme. Apre il telefono e inizia a raccontare. Una paura. Una litigata. Una relazione. Cose che a un amico forse non direbbe. Dall’altra parte, qualcosa risponde. Non giudica. Non si stanca. E sembra sempre interessato. Ho aperto così il mio intervento in Senato a settembre, per l’ottava edizione del Digital Security Festival. Nessuno in quella sala ha avuto bisogno che gliela spiegassi, quella scena.
Ha un nome, che uso da tempo e su cui ho scritto anche su queste pagine quando ho provato a capire cosa succede se una macchina del genere entra in casa. Lo chiamo Sentimento Sintetico, ed è un legame affettivo vero da parte di una persona vera verso qualcosa che non ha la capacità di ricambiarlo. L’emozione esiste, l’attaccamento esiste, manca soltanto la reciprocità. E all’inizio quella mancanza non si sente.
Indice degli argomenti
Dati emotivi e Intelligenza Artificiale: cosa rivela lo studio su Character.AI
Non è una sensazione mia. Nell’agosto del 2026 Nature Human Behaviour ha pubblicato uno studio guidato da ricercatori di Stanford su 1.131 adulti statunitensi che usano Character.AI. Di quel gruppo, 237 hanno donato le proprie conversazioni, 4.664 sessioni in tutto, analizzate insieme ai questionari.
Il supporto emotivo e sociale risulta l’argomento più frequente, presente nell’80,3 per cento delle sessioni. Le conversazioni con il livello più alto di apertura personale riguardano sofferenza emotiva, pensieri suicidari e uso di sostanze. Chi aveva una rete sociale più piccola si rivelava più incline a usare il chatbot come compagnia, e quell’uso risultava associato a un benessere psicologico più basso. L’associazione si faceva più marcata quando le interazioni erano intense e ricche di confidenze.
Sono i contenuti che nella vita di prima finivano da un amico, da un parente, da un professionista. Oggi finiscono in un archivio.
Privacy e consenso davanti alle confidenze raccolte dall’AI
Quando parliamo di privacy e Intelligenza Artificiale ragioniamo di dati, consensi, tracciamento, profilazione. Sono temi seri, e il Digital Security Festival ci gira intorno da otto anni. Sotto però c’è il livello che decide se quei contenuti vengono consegnati oppure no, e di quello parliamo poco.
Nessuno si apre a una macchina perché ha letto l’informativa. Ci si apre perché si percepisce una relazione sicura.
Sembra una sfumatura, e invece riguarda tutto l’impianto delle tutele. Sul robot domestico avevo già osservato che il modello del consenso presuppone qualcuno che legge e decide, e che in una casa dove passano dieci persone quel modello regge poco. Qui la falla è un’altra, e dà più fastidio, perché tocca proprio chi ha letto, ha accettato e formalmente sapeva. L’informativa arriva un pomeriggio qualunque, durante un’installazione, e quando serve un consenso lo diamo con l’attenzione che tutti riserviamo alle installazioni. La decisione che conta davvero arriva sei mesi dopo, alle tre di notte, quando non c’è più niente da accettare e nessuno ripropone nulla.
Le regole, va detto, non sono cieche. La nozione di dato personale è larghissima e indipendente dalla tecnologia, e una conversazione di quel tipo può rivelare salute, convinzioni, orientamenti, quindi ricadere anche nelle categorie che godono di protezione rafforzata. Sul piano giuridico quella confidenza è coperta.
Lo stato d’animo che l’informativa non registra
Quello che manca è un’altra cosa. Abbiamo categorie precise per dire di che natura è un dato, e quasi nessuna per dire in che stato d’animo una persona ha deciso di produrlo. La posizione, la cronologia e gli acquisti sono tracce che lasciamo mentre facciamo altro. Una confidenza no. Quella la costruiamo con cura, scegliendo le parole, cercando di spiegarci bene, perché vogliamo essere capiti. Il grado di intimità con cui è stata consegnata non compare da nessuna parte, e nessuna casella dell’informativa lo registra.
Nessuno ha mai spuntato un consenso che dicesse la mia paura.
Quando l’AI trasforma l’intimità in un archivio
Per chi progetta la conseguenza è antipatica. Siamo abituati a trattare l’affidabilità percepita come un pregio da aumentare a ogni versione, e i team di design lavorano per anni esattamente su quello. Su una macchina che raccoglie confidenze la stessa qualità diventa un problema, perché più un assistente mette a proprio agio più può diventare efficace nel raccogliere quello che un istante prima consideravamo intimo. Nelle metriche di prodotto quella qualità raramente viene letta in questo senso. La chiamiamo esperienza utente e la mettiamo nelle slide con il grafico che sale.
Solitudine, memoria e confidenze conservate
Pensiamo a una persona anziana che vive sola. Ci sono giornate in cui l’unica voce che si sente in casa è quella di un assistente vocale, la mattina, a pranzo, a cena. L’unica con cui parlare. Non lo dico per condannare la tecnologia, perché quella solitudine la capisco, e capisco anche perché una presenza sempre disponibile possa sembrare un sollievo. Quando una voce sintetica prende il posto di una voce reale, però, la macchina non ha tolto niente a nessuno. Ha occupato un vuoto che qualcun altro aveva già creato.
C’è poi la differenza che nessuno considera mai. Un amico dimentica, interpreta a modo suo, qualche volta fraintende, e col tempo quello che gli abbiamo raccontato sbiadisce. Una macchina può conservare, strutturare e riutilizzare, secondo logiche che dipendono dal servizio e non dalla fiducia che le abbiamo dato. Quel materiale, poi, invecchia in modo diverso. Una cronologia di navigazione di sei anni fa dice poco di chi siamo adesso, mentre una paura raccontata allora può restare significativa molto più a lungo.
Fin qui il rischio resta individuale, e sarebbe già abbastanza. Cambia tutto quando si guarda la scala.
Dai dati emotivi al potere di influenza
Ogni volta che ci apriamo consegniamo conoscenza su di noi. Chi la raccoglie, su moltissime persone e nei loro momenti peggiori, non si ritrova con un archivio.
Ottiene una posizione.
Sapere cosa spaventa una popolazione, in quali ore cede, con quale tono si lascia convincere, è una cosa diversa dallo storico degli acquisti. I dati di comportamento dicono cosa fa una persona. Questi dicono a cosa è fragile, e lo dicono proprio mentre lo è.
Dal microtargeting alle fragilità raccontate
Nel 2018, ai tempi di Cambridge Analytica, scrissi che l’indignazione generale era aria fritta, perché il microtargeting si faceva anche prima di internet e nessuno si era mai scandalizzato. Chiudevo con una domanda che allora sembrava una provocazione. Il problema sta nel targeting costruito sui dati oppure nel dire a ognuno quello che vuole sentirsi dire.
Otto anni dopo la risposta l’ha data il mercato. Una macchina che alle tre di notte non giudica, non si stanca e sembra sempre interessata è la versione definitiva del dire a ognuno quello che vuole sentirsi dire. Nel 2018 molte fragilità bisognava dedurle dai comportamenti. Adesso gliele raccontiamo noi, con le nostre parole, tutte le volte che ci serve qualcuno.
Dati emotivi negli assistenti conversazionali: sicurezza e responsabilità
Michele Zizza, professore aggiunto all’Università degli Studi della Tuscia di Viterbo, in Introduzione alla comunicazione strategica applicata agli studi geopolitici lavora sulla comunicazione strategica in ambito civile e militare, e sui processi che servono a prevenire e contrastare le minacce portate attraverso la comunicazione e l’informazione. Io ci aggiungo una cosa che quel quadro non tratta e che mi sembra la prosecuzione naturale del ragionamento. Il materiale emotivo raccolto una conversazione alla volta somiglia molto alla conoscenza che rende efficace un’operazione di influenza, e finora l’abbiamo quasi sempre guardato come una questione di benessere personale.
Archivi emotivi e barriere organizzative
Chi costruisce assistenti conversazionali, quasi sempre, ha in testa tutt’altro. Il materiale però, una volta raccolto, esiste al di là delle intenzioni di chi lo ha messo insieme. Le aziende cambiano proprietà, i servizi vengono venduti, gli archivi passano di mano. Tra quegli archivi e un uso che oggi nessuno prevede ci sono norme, finalità dichiarate, controlli sugli accessi e tempi di conservazione. Sono barriere vere, che però reggono finché reggono l’organizzazione che le applica.
Le regole ci sono, e proteggono il dato. Quello che descrivono molto meno è la dinamica che porta una persona a produrre quel dato, in una notte qualunque, convinta di parlare con qualcuno. L’informativa arriva quando la relazione non esiste ancora, quindi copre le informazioni in generale e non può dire niente di quanto intima diventerà.
Il punto è che chi si occupa di sicurezza non può più fermarsi ai prodotti conformi. Quando un servizio funziona bene sul piano emotivo raccoglie anche materiale di natura diversa, e i nostri strumenti sanno descrivere quel materiale molto meglio di quanto sappiano descrivere le condizioni in cui è stato consegnato.
E mentre raccontiamo, a questo non pensiamo. Cerchiamo solo qualcuno che ci ascolti.
La domanda che ho lasciato in quella sala è la stessa che lascio qui. A chi stiamo dando potere, quando l’ascolto più facile che abbiamo non è più umano.
Prima delle regole e prima dei sistemi, la responsabilità è nostra. Ricominciamo ad andare a pranzo dai nostri cari.
Partecipa alla community