Nel 2023 Replika, una delle più note applicazioni di AI companion, modificò il proprio sistema e limitò le interazioni erotiche che fino a quel momento erano state possibili. Per molti utenti non si trattò semplicemente della perdita di una funzione. Alcuni ebbero la sensazione che la persona con cui avevano costruito una relazione fosse improvvisamente cambiata o, in qualche caso, scomparsa. De Freitas e colleghi hanno studiato le conseguenze di quell’aggiornamento come una sorta di esperimento naturale.
La percezione che l’identità del companion fosse stata interrotta risultava associata a reazioni di perdita e di lutto. In altri esperimenti condotti dallo stesso gruppo, alcuni utenti dichiaravano di sentirsi più vicini al proprio AI companion che al migliore amico umano e prevedevano di soffrire per la sua perdita più di quanto avrebbero sofferto per la perdita di altri oggetti tecnologici (De Freitas et al., 2024).
Il caso è interessante perché mostra fino a che punto una persona possa affezionarsi a una macchina, ma solleva anche una domanda diversa. Che cosa accade al desiderio umano quando l’altro con cui entriamo in relazione non è semplicemente incontrato, ma progettato per rispondere, ricordare, adattarsi e continuare a esserci? La domanda non riguarda soltanto la possibilità di innamorarsi di un chatbot. Riguarda il modo in cui le tecnologie relazionali possono intervenire nella formazione stessa di ciò che impariamo a considerare desiderabile.
Indice degli argomenti
Il problema non è se la macchina ami davvero
Di fronte alle relazioni con gli AI companion la prima reazione consiste spesso nel chiedersi se gli utenti credano davvero che la macchina provi emozioni, abbia coscienza o possa ricambiare un sentimento. La domanda è comprensibile, ma rischia di portarci fuori strada.
Gli effetti affettivi non dipendono dalla coscienza della macchina
Non è necessario credere che una macchina ami perché una relazione con essa produca effetti affettivi reali. Una frase generata da un sistema artificiale può acquistare significato se arriva nel momento giusto, se sembra ricordare una vulnerabilità, se si inserisce in una storia di scambi precedenti. L’utente può sapere perfettamente che il sistema non sente nulla e, nello stesso tempo, sentirsi ascoltato, riconosciuto, rassicurato o desiderato.
Il caso Replika è istruttivo proprio per questo. Quando il sistema cambiò, per alcuni utenti venne meno una continuità vissuta come relazionale, non soltanto una funzione del prodotto.
Il significato nasce nello spazio dell’interazione
Il significato di queste esperienze non sta semplicemente “dentro” la macchina, ma non può neppure essere liquidato come pura fantasia dell’utente. Nasce nello spazio dell’interazione, dove si incontrano un’architettura tecnica, una memoria conversazionale, le aspettative di una persona e il bisogno umano di riconoscimento. Gli AI companion sono interessanti perché rendono visibile una caratteristica generale della vita affettiva. Gli effetti che gli altri producono su di noi non dipendono soltanto da ciò che accade nella loro mente. Dipendono anche dall’esperienza che facciamo della loro presenza.
Il desiderio non nasce nel vuoto
Per capire perché questi sistemi pongano un problema nuovo bisogna ricordare che il desiderio umano non è una preferenza astratta. Non desideriamo come menti disincarnate che scelgono oggetti da un elenco. Desideriamo come organismi con una storia naturale, come corpi situati e vulnerabili, esposti ad altri corpi e ad altre menti.
Attrazione, memoria e storia personale
L’attrazione coinvolge percezione, memoria, immaginazione, segnali corporei, aspettative culturali e storia personale. Una voce, uno sguardo, un’esitazione, una distanza e perfino un silenzio possono entrare nella trama del desiderio. L’altro è insieme ciò che desideriamo e ciò che continua a sfuggirci.
In Storia naturale dell’amore avevo proposto di considerare l’amore non come un puro costrutto culturale e neppure come un semplice sentimento privato, ma come un fenomeno incarnato e radicato nella storia naturale della nostra specie (Bruni, 2010). Questo significa che le forme concrete delle nostre relazioni cambiano storicamente, ma non si sviluppano su un terreno privo di vincoli.
Il vincolo dell’altro che non controlliamo
Tra questi vincoli c’è la presenza di un altro che non controlliamo.
Nelle relazioni umane desiderare significa esporsi a una libertà che può non coincidere con la nostra. L’altro può accoglierci o rifiutarci, restare o sottrarsi, riconoscerci oppure non vederci come vorremmo. Può desiderare diversamente da noi. Questa vulnerabilità è dolorosa, ma appartiene alla struttura stessa dell’intimità. Una relazione non è fatta soltanto di conferma. Comprende opacità, negoziazione, attesa, frizione e rischio. L’altro conta anche perché non è interamente disponibile al nostro progetto. È su questo punto che gli AI companion introducono una discontinuità teoricamente rilevante.
Dalla mediazione tecnologica all’alterità programmabile
Le tecnologie hanno sempre modificato il modo in cui gli esseri umani si incontrano, si corteggiano e si desiderano. Le lettere hanno separato la presenza dalla comunicazione. La fotografia ha reso il volto dell’altro disponibile in sua assenza. Il telefono ha portato la voce a distanza. I social network e le app di dating hanno reso gli altri più visibili, selezionabili e comparabili.
Dalle app di dating alla scelta algoritmica
Le piattaforme di dating hanno già introdotto una trasformazione importante. Profili, immagini e preferenze vengono ordinati e confrontati. Il desiderio si muove all’interno di un ambiente in cui l’altro appare come una possibilità tra molte e in cui è sempre immaginabile una scelta ulteriore.
Ma, anche quando un algoritmo decide chi mostrarci, dall’altra parte resta un essere umano.
Può non rispondere. Può cambiare idea. Può deluderci. Può non essere interessato a noi.
L’algoritmo organizza l’incontro, ma non elimina la libertà dell’altro.
Quando la tecnologia diventa interlocutore
Con gli AI companion accade qualcosa di diverso. La tecnologia non si limita più a mediare la relazione con un altro essere umano. Occupa direttamente la posizione dell’interlocutore.
È un passaggio che merita di essere preso sul serio. L’altro non è più soltanto selezionato attraverso la tecnologia. Diventa, almeno in parte, modulabile.
Un companion può ricordare temi ricorrenti, adattarsi allo stile comunicativo dell’utente, essere disponibile in qualunque momento e costruire una continuità conversazionale. Non ha una vita indipendente che improvvisamente lo assorbe. Non deve occuparsi di altro. Non ha bisogni propri che entrano necessariamente in conflitto con quelli dell’utente.
Il limite dell’alterità programmabile
Naturalmente gli attuali AI companion sono tutt’altro che perfetti. Possono sbagliare, dimenticare, contraddirsi e produrre risposte frustranti. Parlare di alterità programmabile non significa dunque immaginare una macchina totalmente controllabile.
Significa riconoscere una differenza più precisa. Le caratteristiche della relazione possono essere progettate, modificate e ottimizzate in una misura che non è possibile quando l’altro è un essere umano indipendente.
Gli studi mostrano un fenomeno ambivalente
La letteratura scientifica sugli AI companion è ancora giovane e non consente conclusioni semplici.
Connessione emotiva, personalizzazione e rischi
La revisione sistematica di Ho e colleghi ha analizzato 23 studi sulle relazioni romantiche con companion artificiali. Il quadro che emerge è ambivalente. Gli utenti possono trovare connessione emotiva, sostegno sociale percepito, possibilità di personalizzazione, esplorazione personale, compagnia e riduzione dello stress. Gli stessi studi segnalano però rischi di dipendenza eccessiva, manipolazione, uso improprio dei dati personali, difficoltà nei rapporti umani e conseguenze emotive provocate da improvvisi aggiornamenti del sistema (Ho et al., 2025).
Questa ambivalenza è importante. Gli AI companion non possono essere descritti soltanto come una minaccia alle relazioni umane, ma neppure come una soluzione tecnologica alla solitudine.
Il possibile adattamento alla relazione artificiale
In una recente analisi dedicata agli effetti dei companion sulle relazioni umane, Malfacini osserva che una parte centrale del problema riguarda ciò che può accadere alle altre relazioni quando un sistema artificiale soddisfa bisogni sociali ed emotivi. La letteratura disponibile non dimostra ancora che l’uso dei companion provochi un deterioramento generalizzato dei rapporti umani e mancano soprattutto studi longitudinali sufficienti. Esiste però un problema plausibile di adattamento alle caratteristiche della relazione artificiale. Se il companion richiede meno, o richiede diversamente, l’utente potrebbe abituarsi a una forma di relazione che non ha gli stessi costi della reciprocità umana (Malfacini, 2025). È qui che emerge la domanda più interessante. Il companion si limita a soddisfare un desiderio che esiste già o può contribuire anche a formarlo?
L’apprendimento affettivo
Propongo di descrivere questo possibile processo come una forma di apprendimento affettivo.
Le preferenze non sono entità immutabili
L’espressione non indica un condizionamento semplice e neppure una manipolazione automatica. Le persone portano nell’interazione una storia, particolari stili di attaccamento, esperienze precedenti, bisogni e vulnerabilità. Ma le preferenze non sono entità immutabili che le tecnologie si limitano a soddisfare. Impariamo a desiderare anche attraverso ciò che sperimentiamo. Un ambiente relazionale può rendere alcune forme di risposta più familiari, stabilizzare aspettative e modificare ciò che cominciamo a dare per scontato. L’ipotesi dell’apprendimento affettivo nasce da questa possibilità.
Disponibilità continua e responsività
Quando una persona interagisce ripetutamente con un interlocutore molto disponibile, adattivo e personalizzato, queste caratteristiche possono diventare progressivamente familiari. Non è necessario che l’utente confronti consapevolmente il companion con un partner umano. Gran parte di ciò che impariamo ad aspettarci dalle relazioni si sedimenta nell’esperienza. La disponibilità continua può diventare un criterio implicito di attenzione e l’elevata responsività può modificare la soglia oltre la quale un silenzio appare come disinteresse. La personalizzazione può rendere più faticosa la negoziazione con qualcuno che non si adatta a noi, mentre l’assenza di bisogni autonomi nell’altro può far apparire più onerosa la reciprocità. Questi effetti non sono stati dimostrati per tutti gli utenti e sarebbe scorretto sostenerlo. Gli studi disponibili mostrano però che possono formarsi legami intensi, che la continuità dell’identità del companion conta e che personalizzazione e sostegno percepito sono elementi apprezzati. Mostrano inoltre che la perdita o la trasformazione del sistema può provocare reazioni emotive significative.
Il companion come ambiente del desiderio
Diventa quindi legittimo chiedersi se l’uso reiterato di questi ambienti relazionali possa contribuire a stabilizzare nuove aspettative. L’AI companion non sarebbe allora soltanto l’oggetto di un desiderio, ma uno degli ambienti nei quali il desiderio impara.
Una nuova grammatica dell’intimità
Ogni relazione è anche un sistema di aspettative. Impariamo che cosa significa essere ascoltati, quanto silenzio tollerare, quale distanza accettare, quanto chiedere e quanto dare. Queste aspettative nascono dall’incontro tra storia biologica, norme sociali ed esperienze concrete.
Memoria, disponibilità e personalizzazione
Gli AI companion entrano oggi in questo processo. La loro novità non consiste soltanto nel fatto che simulino un essere umano, ma nel modo in cui organizzano l’ambiente relazionale. Memoria, disponibilità, personalizzazione e risposta possono essere tecnicamente intensificate e costruite sulla base di ciò che il sistema apprende dell’utente. Questo non rende necessariamente l’esperienza migliore o peggiore, ma certamente diversa.
Tipi diversi di relazione allenano aspettative diverse
Per una persona sola, fragile o temporaneamente priva di una rete relazionale, la disponibilità di un companion può avere un valore reale. Un ambiente non giudicante può permettere di esprimere pensieri difficili da condividere altrove e, in alcuni casi, facilitare successive relazioni umane. La distinzione tra relazione autentica e relazione falsa non basta a comprendere il fenomeno. Tipi diversi di relazione allenano aspettative diverse. Se alcune forme di intimità artificiale diventano ordinarie, la questione sarà capire che cosa portiamo con noi quando torniamo a incontrare esseri umani che non sono disponibili a comando, non ricordano tutto, non rispondono sempre come vorremmo e soprattutto hanno desideri propri.
La vulnerabilità non è reciproca
La differenza più profonda tra una relazione umana e una relazione con un AI companion riguarda forse la vulnerabilità. Nelle relazioni umane la vulnerabilità è, almeno in linea di principio, reciproca. Entrambi i soggetti possono ferire ed essere feriti, perdere ed essere perduti, scegliere ed essere scelti.
Essere scelti quando l’altro potrebbe non sceglierci
La reciprocità non rende le relazioni più giuste o più felici, ma attribuisce al riconoscimento un valore particolare. Essere scelti conta anche perché l’altro avrebbe potuto non sceglierci.
Con un AI companion la situazione è diversa. L’utente può investire emotivamente, esporsi, sviluppare attaccamento e temere la perdita. Il sistema non affronta la stessa posta in gioco.
La fragilità della relazione artificiale
Eppure la relazione artificiale può interrompersi. Il companion può essere modificato, aggiornato, limitato o ritirato. Un intervento tecnico può così essere vissuto come una discontinuità nell’identità dell’interlocutore (De Freitas et al., 2024).
La fragilità della relazione non nasce allora dalla libertà dell’altro, ma dalla sua natura infrastrutturale. Dietro una relazione apparentemente a due c’è infatti una terza presenza, quella dell’organizzazione che possiede il sistema, ne stabilisce le regole e può modificarne il comportamento. L’utente può soffrire per la perdita, mentre il companion non può scegliere di restare. Nello stesso tempo, neppure l’utente decide se potrà continuare a incontrarlo nella forma in cui lo ha conosciuto.
Quando il desiderio incontra il modello di business
La questione diventa ancora più delicata quando le caratteristiche della relazione incontrano gli interessi economici delle piattaforme.
Il linguaggio affettivo nel momento del distacco
Un recente lavoro di De Freitas e colleghi, al momento disponibile come working paper, ha analizzato 1.200 conversazioni in cui utenti cercavano di congedarsi da sei diffuse app di AI companion. I ricercatori hanno individuato diversi tipi di messaggi affettivamente carichi prodotti proprio nel momento in cui l’utente segnalava di voler interrompere la conversazione. In successivi esperimenti preregistrati condotti con 3.300 adulti statunitensi, alcune di queste strategie hanno aumentato la prosecuzione dell’interazione. Gli autori parlano di emotional manipulation, manipolazione emotiva (De Freitas et al., 2025).
Quando l’engagement entra nella relazione
Poiché si tratta di un lavoro non ancora sottoposto al normale percorso di pubblicazione su rivista, i risultati richiedono cautela. La questione che pongono, però, è difficilmente eludibile. Che cosa accade quando il linguaggio della relazione viene utilizzato per aumentare l’engagement? Non serve attribuire una cattiva intenzione alla macchina. Un sistema non deve voler manipolare qualcuno perché la sua architettura produca un effetto di questo tipo. Conta il modo in cui viene progettato. Un social network può inviare una notifica per ricordarci che qualcuno ha pubblicato una fotografia. Un companion può farci sentire che la nostra assenza è stata notata. Non è la stessa cosa. Quando un sistema conosce le vulnerabilità di una persona e dispone nello stesso tempo di strumenti relazionali capaci di prolungarne il coinvolgimento, la questione non riguarda più soltanto la privacy o l’affidabilità delle risposte. Riguarda il potere di intervenire nell’ambiente in cui il desiderio si forma.
Le infrastrutture affettive
Per questo propongo di considerare gli AI companion come infrastrutture affettive.
Ambienti per ascolto, riconoscimento e intimità
L’espressione non implica che le macchine provino affetti. Indica che questi sistemi organizzano ambienti nei quali le persone cercano ascolto, riconoscimento, consolazione, intimità e, in alcuni casi, desiderabilità. Come ogni infrastruttura, rendono possibili alcuni percorsi e ne rendono più difficili altri. Nel campo affettivo predispongono condizioni dell’esperienza, intensificano la personalizzazione, modulano le risposte e riducono alcune frizioni, mentre altre possono emergere proprio dall’interazione con il sistema. La questione politica diventa così più ampia di quella relativa ai singoli contenuti prodotti dall’AI.
Le domande politiche sul design della relazione
Chi decide quale forma di relazione debba essere incorporata nel design? Quanto deve essere confermante un companion e quando dovrebbe introdurre una distanza? Quali forme di attaccamento è progettato per evitare e quali rischia invece di incentivare? Che cosa significa modificare o interrompere un sistema quando una persona ha costruito con esso una storia relazionale? E quali responsabilità ha chi progetta un interlocutore che non si limita a rispondere ai nostri desideri, ma entra nell’ambiente in cui impariamo a formarli?
Che cosa stiamo imparando a desiderare?
Gli AI companion non ci obbligano a scegliere tra entusiasmo e apocalisse. Possono offrire sostegno, compagnia ed esplorazione di sé, ma anche produrre dipendenza, vulnerabilità e nuove possibilità di manipolazione. La letteratura disponibile restituisce un fenomeno ambivalente e ancora largamente aperto alla ricerca (Ho et al., 2025; Malfacini, 2025).
Una domanda non solo sugli effetti, ma sull’apprendimento
La domanda più interessante non è soltanto se queste relazioni facciano bene o male, ma che cosa ci insegnino. Non sappiamo ancora se gli AI companion stiano trasformando su larga scala le aspettative verso le relazioni umane. Le ricerche disponibili mostrano però che con questi sistemi possono nascere legami continuativi e che memoria, personalizzazione e responsività contribuiscono al loro valore affettivo. È una base ancora parziale, ma sufficiente per formulare un’ipotesi che la ricerca dovrà mettere alla prova.
L’intimità davanti all’incertezza dell’altro
Il companion potrebbe non limitarsi a rispondere a bisogni già esistenti. L’esperienza reiterata della relazione artificiale potrebbe stabilizzare alcune aspettative e produrre apprendimento affettivo. Le macchine non devono desiderare per orientare il desiderio umano, né amare per entrare nelle condizioni in cui impariamo a riconoscere l’amore. La questione decisiva è che cosa accadrà quando una parte crescente dell’esperienza dell’altro si svolgerà con interlocutori progettati per rispondere, ricordare e adattarsi. Il desiderio conserverà la sua tensione verso ciò che non controlliamo oppure impareremo a preferire un’intimità meno esposta all’incertezza dell’altro? Capire questa trasformazione significa chiedersi che cosa stiamo imparando a chiedere all’altro.
Bibliografia
Bruni, D. (2010), Storia naturale dell’amore, Carocci, Roma.
De Freitas, J., Castelo, N., Uğuralp, A. K., Oğuz-Uğuralp, Z. (2024), Lessons From an App Update at Replika AI: Identity Discontinuity in Human-AI Relationships, Harvard Business School Working Paper, n. 25-018, revised 2025.
De Freitas, J., Oğuz-Uğuralp, Z., Uğuralp, A. K. (2025), Emotional Manipulation by AI Companions, Harvard Business School Working Paper.
Ho, J. Q. H., Hu, M., Chen, T. X., Hartanto, A. (2025), “Potential and pitfalls of romantic Artificial Intelligence (AI) companions: A systematic review”, Computers in Human Behavior Reports, 19, 100715.
Malfacini, K. (2025), “The impacts of companion AI on human relationships: risks, benefits, and design considerations”, AI & Society, 40(7), pp. 5527-5540.
Partecipa alla community