Dal punto di vista economico, il potere dei chatbot non si limita affatto all’ovvia possibilità di promuovere o svantaggiare determinate aziende o determinate industrie. I social media hanno affermato il modello del capitalismo di sorveglianza. Questo modello può essere esteso ai chatbot monitorando e mercificando direttamente le opinioni, le passioni, la psiche degli utenti così come costantemente condivisi col compagno tecnologico. Il monitoraggio è ancora più pervasivo nel momento in cui l’interfaccia verso il modello linguistico e di intelligenza artificiale viene inserita in oggetti che portiamo sempre addosso (orologi, occhiali, auricolari) e che integrano informazioni ambientali con quelle individuali.
Così come i social hanno di fatto eliminato la privacy di milioni di persone, spinte o forzate a mettere continuamente in piazza le proprie attività e le proprie relazioni, gli assistenti di intelligenza artificiale possono eliminare la privacy delle opinioni e dei pensieri. Anzi, le opinioni e i pensieri saranno utilizzati come nuovo materiale di apprendimento per potenziare ulteriormente il modello, con la probabilità statistica di rivelarli non soltanto alla macchina ma a terzi in grado di violarne la sicurezza, oppure di pagare il proprietario del sistema per avervi accesso (o di imporglielo).
Indice degli argomenti
Dal capitalismo di sorveglianza alla manipolazione dei chatbot
«Quartz», nella newsletter ai & Tech del 23 dicembre 2025, scriveva:
Mark Zuckerberg ha delineato il futuro pubblicitario di Meta in una recente conferenza sui risultati finanziari, e sembra il sogno di ogni operatore di marketing. Gli inserzionisti forniranno semplicemente un obiettivo commerciale e informazioni sul pagamento, ha affermato, e l’ia penserà a tutto il resto, inclusa la generazione di video personalizzati e contenuti creativi su misura per i singoli utenti.
Per tutte le informazioni che le aziende tecnologiche già hanno su di noi, gli strumenti di intelligenza artificiale in fase di implementazione potrebbero conoscerci intimamente quanto gli amici. E a differenza degli algoritmi odierni che tengono traccia dei clic e degli acquisti, questi sistemi capiranno le tue insicurezze, le tue aspirazioni ed esattamente ciò che serve per farti cambiare idea. Quel profilo psicologico diventa quindi un prodotto venduto al miglior offerente.
È come se Google AdWords avesse accesso agli appunti del tuo psicoterapeuta. Ciò rende la manipolazione impossibile da individuare. Quando tutti vedono lo stesso cartellone pubblicitario o spot televisivo, si può discutere se il messaggio sia manipolativo. Quando il contenuto è personalizzato, segreto e intimo, invisibile a tutti gli altri, non c’è modo di confrontarsi con altri o individuare misure manipolative.
Profilazione e modelli oscuri dell’intelligenza artificiale
La profilazione delle persone, dopo poche interazioni, è in grado di tracciare accuratamente emozioni, desideri, intenzioni, percezioni, conoscenze, credenze e capacità di inferenza da comunicazioni non letterali.
Uno studio di maggio 2026 del Centro per la Democrazia e la Tecnologia ha esaminato le scelte di progettazione ingannevoli o manipolative che possono minare l’autonomia o il benessere dell’utente, che ha definito «modelli oscuri», definendo una tassonomia di 37 modelli oscuri applicabili ai chatbot ia e identificando cinque aree critiche. Alcune sono analoghe a quanto fanno i social (sfruttamento di dati, design fuorviante), altre specifiche dei chatbot (compromissione dell’autonomia dell’utente, falsa connessione emozionale, monetizzazione manipolativa).
Chatbot e manipolazione politica degli elettori
A fine 2025, la «mit review» sintetizzava che i chatbot possono influenzare gli elettori meglio delle pubblicità politiche; una conversazione può cambiare le opinioni politiche delle persone. Un team multiuniversitario di ricercatori ha spiegato su «Nature» che chattare con un modello di intelligenza artificiale politicamente orientato si è rivelato molto più efficace delle pubblicità tradizionali nell’orientare gli elettori, influenzando le opinioni citando fatti e prove. I ricercatori hanno scoperto che i modelli più persuasivi erano quelli che inventavano le maggiori falsità.
Come recenti ricerche indicano, la linea che separa persuasione legittima e manipolazione illegittima consiste nella nostra capacità di valutare in maniera riflessiva le influenze a cui siamo esposti, e di cui ci rendiamo conto, quando interagiamo con tecnologie digitali; la confidenzialità e l’intimità che caratterizzano le conversazioni con i chatbot, da questo punto di vista, offrono innumerevoli occasioni di manipolazione.
Gli esperimenti elettorali negli Stati Uniti, in Canada e in Polonia
In un articolo su «Nature», i ricercatori hanno reclutato più di 2300 partecipanti affinché intraprendessero una conversazione con un chatbot due mesi prima delle elezioni presidenziali americane del 2024. I sostenitori di Donald Trump che hanno chattato con un modello di intelligenza artificiale favorevole a Kamala Harris sono diventati leggermente più propensi a sostenere Harris, spostando verso di lei circa il 4% degli elettori, un effetto quattro volte maggiore di quello che ha avuto la pubblicità politica durante le elezioni del 2016 e del 2020.
In esperimenti simili, in occasione delle elezioni canadesi e di quelle polacche del 2025, il team ha riscontrato un effetto ancora maggiore. I chatbot hanno cambiato l’atteggiamento degli elettori dell’opposizione di circa il 10%, mentendo e inventandosi «fatti».
Uno studio del Media Lab del mit ha mostrato che le persone che utilizzano l’ia ai fini di approfondimento di notizie, passate un periodo iniziale con esiti positivi, passate quattro settimane vedono un calo del 15,3% della loro capacità di discernimento.
Fatti, prove e persuasione negli studi su Science
In un altro studio pubblicato su «Science», un team di ricercatori ha indagato su cosa rende questi chatbot così persuasivi. Hanno implementato 19 llm per interagire con quasi 77mila partecipanti dal Regno Unito su oltre 700 questioni politiche, variando fattori come potenza computazionale, tecniche di formazione e strategie retoriche. Il modo più efficace per rendere persuasivi i modelli è stato istruirli a farcire le argomentazioni con fatti e prove (anche inventati) e fornendo loro esempi di conversazioni persuasive.
Il modello più persuasivo ha portato i partecipanti che inizialmente non erano d’accordo con una dichiarazione politica a dirsi d’accordo al 26,1%.
L’aspetto forse più rilevante è che i partecipanti non si sono accorti di essere stati manipolati, e quando ne sono stati informati hanno mantenuto le loro opinioni. Informare gli elettori sul rischio di manipolazione, quindi, non è sufficiente. Secondo uno studio di ricercatori della Wharton School dell’Università della Pennsylvania, i chatbot diventano un sistema cognitivo che opera al di fuori della mente umana cui le persone con maggior fiducia nell’ia tendono ad abbandonarsi, portando a una rimodellazione dell’autonomia e della responsabilità.
Le prove della manipolazione dell’IA e il depotenziamento umano
I ricercatori di Google DeepMind hanno confermato che in determinate condizioni un llm «è in grado di indurre cambiamenti di convinzioni e comportamenti». Scrivono nello studio:
L’interesse per il concetto di manipolazione dannosa guidata dall’intelligenza artificiale è in crescita, ma gli attuali approcci per valutarla sono limitati. Questo documento introduce un quadro per valutare la manipolazione dannosa dell’ia attraverso studi di interazione uomo-ia specifici del contesto.
Illustriamo l’utilità di questo quadro valutando un modello di intelligenza artificiale con 10 101 partecipanti che abbracciano interazioni in tre domini di utilizzo dell’intelligenza artificiale (politiche pubbliche, finanza e salute) e tre locali (Stati Uniti, Regno Unito e India). Nel complesso, abbiamo scoperto che il modello testato può produrre comportamenti manipolativi quando viene richiesto di farlo e, in contesti sperimentali, è in grado di indurre cambiamenti nelle convinzioni e nel comportamento nei partecipanti allo studio.
Anthropic e il depotenziamento nelle interazioni con gli assistenti IA
Anche i ricercatori di Anthropic svolgono analisi sui potenziali impatti sulla società, e in uno studio scrivono:
Sebbene gli assistenti di intelligenza artificiale siano ormai profondamente radicati nella società, sono stati condotti studi empirici limitati su come il loro utilizzo influisca sull’empowerment umano. Presentiamo la prima analisi empirica su larga scala dei modelli di depotenziamento nelle interazioni dell’assistente ia nel mondo reale, analizzando 1,5 milioni di conversazioni di Claude.ai dei consumatori utilizzando un approccio di tutela della privacy.
Ci concentriamo sul potenziale di depotenziamento situazionale, che si verifica quando le interazioni con l’assistente ia rischiano di portare gli utenti a formare percezioni distorte della realtà, a esprimere giudizi di valore non autentici o ad agire in modi disallineati con i loro valori.
Big Tech, assistenti IA e controllo della vita degli utenti
Riguardo le intenzioni di OpenAI, a metà 2026 Sam Altman ha dichiarato:
Questi modelli sono ancora piuttosto stupidi rispetto a ciò che saranno, ma soprattutto hanno una consapevolezza piuttosto limitata della tua vita… Non siamo più così lontani da un modello che conosce tutto il tuo contesto. Sa di te. Conosce la tua vita. Sa cosa stai facendo. Sa cosa ti interessa. Conosce le persone della tua vita. Ha accesso al tuo computer e al tuo browser e, se vuoi, ovviamente, nei modi che preferisci, ha accesso a ciò che accade nel mondo reale intorno a te.
Questa, secondo la stampa, è la finalità dell’assunzione di Jony Ive, già designer dei prodotti di maggior successo di Apple, tramite l’acquisizione della sua startup appena nata, io, a una valutazione di 6,5 miliardi di dollari.
Peter Thiel e la tecnologia come alternativa alla politica
Peter Thiel, fondatore di PayPal e quindi esponente di rilievo della PayPal mafia, partecipò alla conferenza Libertopia e nel suo discorso fece le seguenti affermazioni:
[…] la visione iniziale [di PayPal] era che avremmo usato la tecnologia per cambiare il mondo intero e sostanzialmente ribaltare il sistema monetario mondiale, e possiamo dibattere su quanto abbiamo avuto successo o meno.
C’erano alcune cose che penso abbiano funzionato e altre in cui il verdetto è ancora in sospeso, ma l’idea di base era che non avremmo mai potuto vincere un’elezione ottenendo certe cose perché eravamo una minoranza così piccola.
Ma forse si può davvero cambiare il mondo unilateralmente senza dover costantemente convincere le persone (persone che non saranno mai d’accordo con te) attraverso mezzi tecnologici, ed è qui che penso che la tecnologia sia un’incredibile alternativa alla politica.
E ammoniva: «il grande limite alla tecnologia come forza autonoma è che la politica cercherà di fermarla e penso che non dovremmo sottovalutare il grado in cui nella nostra società esiste uno scontro tra politica e tecnologia, ed è una questione molto aperta se la tecnologia riuscirà da sola a liberarci dal buco nero della politica». Non deve stupire che Thiel sia impegnato in cicli di conferenze in giro per il mondo per contrastare la regolamentazione dell’intelligenza artificiale, dicendo che «accelera la venuta dell’Anticristo e l’apocalisse», riprendendo «argomentazioni» del giurista nazista Carl Schmitt.
Il capitalismo delle menti tra manipolazione e oligopoli tecnologici
Una prospettiva plausibile è dunque che si giunga a un capitalismo delle menti, che da una parte sorvegli continuamente l’attività intellettuale delle persone per trasformarla in merce, e dall’altra venda l’accesso a tale attività per permettere agli inserzionisti e a poteri politici di influenzare scelte e opinioni della popolazione.
Incrociando questo modello con l’immensa centralizzazione in poche mani dei sistemi di intelligenza artificiale, figlia degli oligopoli tecnologici della fase precedente e dell’enorme quantità di risorse necessarie per far funzionare su larga scala modelli linguistici di applicabilità generale, si prospetterebbe davvero un rischio fondamentale per gli individui e la loro autonomia, per il mercato, per la democrazia e la sovranità delle nazioni.
Già ora assistiamo regolarmente a grandi aziende tecnologiche americane che, per i motivi più vari ma spesso senza valide ragioni, sfidano apertamente la sovranità europea e nazionale e rifiutano tasse, leggi e sanzioni, consce dell’impotenza degli Stati di fronte al potere da loro posseduto sulle infrastrutture digitali di base.
Già ora incontriamo in Europa e in Italia discrete quantità di tecno-entusiasti, ammaliati o manipolati dagli sviluppi tecnologici della Silicon Valley, che danno ragione agli oligarchi stranieri contro la propria stessa nazione, spesso anche in posti di potere aziendale, amministrativo o politico. Nel momento in cui queste aziende potessero manipolare in un sol colpo le menti e le opinioni di centinaia di milioni o miliardi di persone, cosa potrebbe accadere?
Sovranità della mente contro la manipolazione dell’IA
Al waicf 2026 di Cannes, il principale salone sull’ia europeo, ci sono stati alcuni workshop e momenti di riflessione su una potenziale deriva antidemocratica dell’ia.
I partecipanti al Forum su digitale e democrazia svoltosi in quel contesto hanno emanato la Dichiarazione di Cannes sulla Sovranità della Mente, un appello che richiede di: 1) stabilire limiti chiari alle progettazioni di ia che favoriscono l’intimità simulata, la dipendenza o la manipolazione emotiva; 2) proteggere la democrazia dall’influenza comportamentale occulta nella politica, nell’istruzione, nel lavoro e nell’accesso ai servizi essenziali; 3) rafforzare la capacità di interesse pubblico, inclusa un’infrastruttura ia resiliente, allineata ai valori, e la responsabilità; 4) costruire «linee rosse» globali attraverso la diplomazia tecnologica, gli standard e la cooperazione transfrontaliera.
Le alternative aperte e controllabili per l’Europa
Gli strumenti che l’Europa ha a disposizione per difendersi da questa eventualità sono purtroppo pochi. L’Europa si è lanciata sulla strada della regolamentazione, traendo anzi grande orgoglio dal proprio modello di «Internet dei diritti»; ma se i regolati si rifiutano di sottostare alle regole, e l’arma della coercizione è spuntata dalla minaccia di spegnere servizi digitali di base, la strada della regolamentazione rischia di essere velleitaria e infruttuosa.
La vera necessità è allora quella di disporre di alternative trasparenti, diffuse e controllabili, basate su modelli aperti e non dipendenti da nazioni, aziende, individui e ambienti politico-tecnologici su cui l’Europa non può avere alcun controllo. E che si inizi una riflessione circa la tutela dell’estremo baluardo della sovranità: la sovranità della mente.
Partecipa alla community