L’intelligenza artificiale viene ancora raccontata soprattutto come uno strumento al quale chiediamo qualcosa. Poniamo una domanda, affidiamo un compito, riceviamo una risposta. È senz’altro una rappresentazione intuitiva e in molti casi corretta, ma rischia di diventare rapidamente insufficiente. Una parte crescente dei sistemi con cui interagiamo non entra infatti in gioco soltanto quando decidiamo di consultarli, ma seleziona informazioni, ordina possibilità, anticipa preferenze e stabilisce gerarchie di rilevanza prima ancora che abbia inizio una vera deliberazione.
Su questo spostamento richiama l’attenzione il recente lavoro di Marianna Bergamaschi Ganapini, Massimo Chiriatti, Enrico Panai e Giuseppe Riva, Before You Think: System 0, AI-Mediated Cognition and Cognitive Colonization (2026). Gli autori riprendono e sviluppano la nozione di System 0, introdotta negli anni precedenti da Chiriatti e colleghi, per descrivere uno strato non biologico che si integra progressivamente nei nostri processi cognitivi e contribuisce a predisporre l’ambiente nel quale pensiamo.
La questione va allora oltre il tema, ormai familiare, dell’affidabilità delle risposte generate dall’IA. Se un sistema interviene sulla selezione di ciò che vediamo, su ciò che appare pertinente e perfino sulle alternative tra cui saremo chiamati a scegliere, il problema riguarda le condizioni stesse nelle quali si forma un giudizio.
Indice degli argomenti
Prima del pensiero
La distinzione tra un Sistema 1, rapido, intuitivo e automatico, e un Sistema 2, più lento e deliberativo, è diventata uno dei modelli più noti per descrivere il funzionamento della mente umana, soprattutto dopo la sistematizzazione proposta da Daniel Kahneman in Thinking, Fast and Slow (2011).
Per quanto questa distinzione sia stata discussa e ridimensionata nella letteratura successiva, continua a offrire un lessico efficace per comprendere i diversi processi attraverso cui prendono forma le nostre decisioni. Il modello nasce però in un mondo nel quale l’elaborazione cognitiva viene pensata essenzialmente come interna al soggetto. L’intelligenza artificiale modifica questo scenario perché introduce un ulteriore livello di mediazione. Prima che un’intuizione si formi e prima che intervenga una valutazione riflessiva, una parte dell’ambiente informativo può essere già stata filtrata, organizzata e personalizzata. È questo il senso dello zero nella formula System 0. Non indica un sistema cognitivo ulteriore equivalente agli altri due e neppure attribuisce necessariamente all’IA una capacità di comprensione paragonabile a quella umana. Individua piuttosto una posizione funzionale. L’IA può agire a monte, predisponendo il materiale sul quale i processi cognitivi successivi lavoreranno (Chiriatti et al., 2024; 2025).
Pensiamo a una ricerca online. Per molto tempo abbiamo immaginato il motore di ricerca come un archivio estremamente efficiente che restituiva una serie di fonti tra le quali orientarci. Oggi l’esperienza è diversa. Sintesi automatiche, sistemi di raccomandazione e assistenti generativi possono presentare direttamente una risposta, stabilendo quali informazioni includere, quali lasciare sullo sfondo e quale relazione costruire tra esse.
La delega non riguarda più soltanto il reperimento dell’informazione. Coinvolge una funzione cognitiva più profonda, quella attraverso cui decidiamo che cosa merita attenzione.
L’automazione della rilevanza
Pensare non significa soltanto elaborare informazioni. Significa anche selezionarle. In ogni momento una quantità enorme di stimoli e possibilità resta fuori dal nostro campo attentivo. La cognizione procede attraverso continue attribuzioni di rilevanza che ci consentono di distinguere ciò che conta da ciò che, in quel momento, può essere ignorato.
Il System 0 interviene precisamente su questa soglia. Bergamaschi e colleghi parlano di automation of relevance judgment. Una parte della decisione su ciò che merita di essere visto, letto o considerato viene trasferita ai sistemi algoritmici.
Naturalmente questa mediazione non nasce con l’intelligenza artificiale. Giornali, televisioni, istituzioni culturali e motori di ricerca hanno sempre contribuito a organizzare lo spazio dell’informazione. La differenza risiede nella combinazione di alcune caratteristiche che l’IA rende oggi particolarmente potenti. Il sistema può modificarsi continuamente sulla base dei comportamenti individuali, personalizzare i contenuti, attraversare contesti differenti e intervenire senza che l’utente gli abbia rivolto una richiesta esplicita. Non offre dunque a tutti lo stesso ambiente informativo. Costruisce progressivamente un ambiente diverso per ciascuno.
Questo passaggio è importante perché modifica anche il significato della personalizzazione. Siamo abituati a considerarla una forma di adattamento ai nostri bisogni. Il sistema impara ciò che preferiamo e ce lo restituisce in maniera più efficiente. Ma un ambiente che impara continuamente dalle nostre scelte non si limita a registrare preferenze già esistenti. Può contribuire a consolidarle e a orientarne l’evoluzione. La personalizzazione diventa così anticipatoria. Il sistema utilizza le tracce del comportamento passato per prevedere ciò che potrebbe interessarci in futuro e dispone l’ambiente in modo coerente con questa previsione (Chen et al., 2021). A quel punto diventa difficile stabilire dove finisca la preferenza che il sistema ha individuato e dove cominci quella che, attraverso la ripetizione e l’esposizione selettiva, ha contribuito a rafforzare.
Quando lo strumento entra nella cognizione
La nozione di System 0 si collega alla teoria della mente estesa proposta da Andy Clark e David Chalmers alla fine degli anni Novanta. Secondo questa prospettiva, alcuni strumenti esterni possono diventare parte dei nostri processi cognitivi quando vengono utilizzati in maniera stabile, affidabile e immediatamente accessibile (Clark e Chalmers, 1998).
L’esempio classico è quello di un taccuino utilizzato sistematicamente come memoria esterna. Se vi facciamo affidamento in modo costante, il confine tra ciò che ricordiamo biologicamente e ciò a cui accediamo attraverso il supporto esterno diventa, dal punto di vista funzionale, meno netto.
L’intelligenza artificiale porta questa intuizione in un territorio nuovo. Gli strumenti cognitivi tradizionali conservano informazioni o eseguono operazioni, ma normalmente non apprendono dall’utente, non anticipano le sue richieste e non riorganizzano continuamente ciò che gli viene presentato.
Alcuni effetti dell’integrazione tecnologica sono già osservabili in ambiti molto quotidiani. Dahmani e Bohbot (2020) hanno mostrato che l’utilizzo abituale del GPS è associato a un peggioramento di alcune capacità di memoria spaziale. Il navigatore svolge una funzione che progressivamente smettiamo di esercitare nello stesso modo. L’aspetto interessante non è semplicemente la dipendenza da uno strumento. Quando utilizziamo una mappa digitale non percepiamo necessariamente l’indicazione del percorso come il consiglio di una fonte esterna da sottoporre a valutazione. Molto spesso quella indicazione diventa semplicemente “la strada”.
Una dinamica analoga può comparire nella scrittura. Hohenstein e colleghi (2023), studiando l’assistenza algoritmica nella comunicazione, hanno mostrato che i suggerimenti generati dall’IA non si limitano a velocizzare la produzione di un messaggio, ma possono influenzare le scelte linguistiche dell’utente, contribuendo a orientarne formulazioni, lessico e stile. Quando il sistema propone continuazioni, risposte o intere frasi, una parte del lavoro espressivo viene anticipata e predisposta prima che l’utente abbia formulato autonomamente ciò che intende dire.
Draxler e colleghi (2024) hanno descritto inoltre quello che chiamano AI Ghostwriter Effect. Gli utenti possono riconoscersi come autori di un testo pur avendo incorporato porzioni rilevanti prodotte dall’IA e, nello stesso tempo, percepire una minore proprietà personale rispetto alle formulazioni generate. Il punto interessante non riguarda soltanto chi abbia materialmente scritto una frase, ma il modo in cui il contributo del sistema tende a intrecciarsi con quello dell’utente fino a rendere meno evidente il confine tra ciò che è stato elaborato autonomamente e ciò che è stato suggerito dall’esterno.
Sono fenomeni diversi, ma indicano una stessa direzione. Quando l’interazione con questi strumenti diventa abituale, l’IA non resta necessariamente una fonte esterna da consultare in modo episodico. Può entrare nella sequenza stessa attraverso cui formuliamo un pensiero, scegliamo una parola o costruiamo un testo. È questa progressiva integrazione a rendere il caso della scrittura particolarmente significativo per il modello del System 0.
Più creativi individualmente, più simili collettivamente
Il problema diventa particolarmente interessante quando riguarda la creatività. Uno degli argomenti più forti a favore dell’intelligenza artificiale generativa consiste nella possibilità di ampliare le capacità individuali. Un sistema può suggerire alternative, aiutare a superare un blocco, migliorare un testo o rendere accessibili competenze che prima richiedevano conoscenze specialistiche.
I dati mostrano però una tensione che merita attenzione. Doshi e Hauser (2024), in uno studio pubblicato su Science Advances, hanno rilevato che l’uso dell’IA generativa può migliorare la qualità delle produzioni creative dei singoli, ma allo stesso tempo ridurre la diversità complessiva delle risposte. Le storie prodotte con l’assistenza dell’IA risultavano valutate più positivamente, mentre tendevano a essere maggiormente simili tra loro. È un risultato che costringe a distinguere due piani che spesso vengono sovrapposti. Aumentare la prestazione creativa individuale non significa necessariamente aumentare la varietà culturale collettiva.
L’IA può certamente ampliare le capacità creative individuali. Se però milioni di persone utilizzano sistemi addestrati su distribuzioni simili e orientati verso criteri analoghi di plausibilità, chiarezza ed efficacia, questo miglioramento può accompagnarsi a una progressiva convergenza delle forme.
Ciò che appare più fluido, pertinente e ben costruito tende inevitabilmente a esercitare un’attrazione. Le soluzioni più riconoscibili, coerenti e immediatamente comprensibili sono anche quelle che un sistema statistico è spesso più portato a proporre. Eppure, l’innovazione nasce spesso proprio da una deviazione rispetto a ciò che appare più probabile. Una formulazione insolita, un’associazione inizialmente poco pertinente, un errore o una soluzione poco elegante possono aprire percorsi che le alternative più prevedibili tendono a lasciare sullo sfondo.
Da questo punto di vista, il rischio non è che l’IA elimini la creatività, ma che contribuisca a restringere silenziosamente lo spazio dell’imprevisto. Se il sistema tende a privilegiare ciò che appare più plausibile, appropriato o ben formato, può esercitare una pressione verso la regolarità proprio nel momento in cui il pensiero creativo avrebbe bisogno di tollerare ambiguità, deviazioni e soluzioni ancora imperfette. La creatività non coincide infatti con la semplice produzione di qualcosa di nuovo. Richiede anche la possibilità di sostare abbastanza a lungo dentro un’idea che, all’inizio, può sembrare strana, inefficiente o persino sbagliata. È spesso da questo scarto rispetto a ciò che appare immediatamente pertinente che nasce una possibilità realmente nuova.
Il valore cognitivo dell’attrito
Questo aspetto rinvia a quello che Riva e colleghi (2025) definiscono comfort-growth paradox, il paradosso tra comfort e crescita. Molti sistemi digitali sono progettati per rendere l’esperienza semplice, prevedibile e priva di frizioni. È una caratteristica che ne spiega l’utilità e, in larga misura, il successo.
La crescita cognitiva segue però una logica almeno in parte diversa. Imparare significa incontrare qualcosa che non coincide perfettamente con ciò che sappiamo già. Significa attraversare momenti di incertezza, correggere una previsione, confrontarsi con un punto di vista che non avevamo anticipato. Basti pensare all’apprendimento di una lingua. Una frase che comprendiamo subito perché costruita con strutture già familiari conferma ciò che sappiamo; una costruzione inattesa, invece, ci costringe a rallentare, a rivedere una regola o a formulare una nuova ipotesi. È proprio in quella difficoltà che può prodursi un avanzamento. L’attrito, entro certi limiti, possiede dunque una funzione cognitiva. Non è soltanto un ostacolo da rimuovere, ma può diventare il punto in cui il pensiero è costretto a riorganizzarsi.
Se un sistema diventa sempre più capace di anticipare ciò che cerchiamo, formulare ciò che avremmo voluto dire e proporci ciò che probabilmente ci piacerà, una parte di quell’attrito viene eliminata. L’effetto è piacevole e la relazione con la tecnologia diventa più naturale e rapida, ma proprio questa efficacia può avere un costo. Un ambiente costruito per adattarsi continuamente a noi rischia di esporci soprattutto a variazioni di ciò che siamo già. Il fenomeno va oltre le cosiddette bolle informative e investe la struttura stessa della scoperta. Qualcosa può diventare interessante proprio perché inizialmente non lo era oppure perché non corrispondeva alle nostre aspettative. Se la rilevanza viene sempre più predetta sulla base del comportamento precedente, l’inatteso deve superare una soglia crescente per riuscire a entrare nel nostro campo cognitivo.
Dall’estensione alla colonizzazione cognitiva
È qui che il lavoro di Bergamaschi Ganapini, Chiriatti, Panai e Riva introduce la nozione più provocatoria, quella di cognitive colonization. Il termine è volutamente forte e gli stessi autori precisano che si tratta, allo stato attuale, di un costrutto teorico e non di un fenomeno già isolato empiricamente in maniera definitiva. La sua funzione è individuare una configurazione specifica nella relazione tra soggetto e intelligenza artificiale.
La colonizzazione cognitiva non coincide con il semplice cognitive offloading, la delega di un compito a uno strumento. Quando usiamo una calcolatrice, affidiamo all’esterno un’operazione, mentre continuiamo a stabilire quale operazione vogliamo eseguire e per quale scopo.
Con l’IA la situazione può diventare differente, perché lo strumento non svolge soltanto il compito, ma può contribuire a definire il problema, ordinare le alternative e attribuire loro salienza. A questo si aggiunge un elemento decisivo. I criteri secondo i quali i sistemi operano non derivano esclusivamente dagli obiettivi dell’utente. Dipendono dai dati di addestramento, dalle procedure di ottimizzazione, dalle politiche di allineamento e dalle scelte delle organizzazioni che li progettano.
L’estensione cognitiva smette allora di essere passiva, ma porta già con sé una direzione.
Gli autori individuano alcune condizioni che rendono possibile parlare di colonizzazione. La tecnologia deve essere sufficientemente integrata nelle pratiche cognitive dell’individuo; i suoi effetti devono entrare nei giudizi e nelle preferenze come se appartenessero al soggetto; i criteri che orientano il sistema devono restare almeno in parte opachi e, soprattutto, tali criteri possono non coincidere con ciò che l’individuo approverebbe attraverso una riflessione consapevole.
Il rischio più interessante non consiste in un’indicazione esplicita di ciò che dovremmo pensare, ma nella possibilità che criteri esterni entrino progressivamente nel processo attraverso cui stabiliamo che cosa appare interessante, credibile o desiderabile, fino a non essere più riconosciuti come tali.
Quando il bias sopravvive alla macchina
Alcuni studi citati dagli autori rendono questa possibilità meno astratta. Vicente e Matute (2023), in un compito simulato di diagnosi medica, hanno osservato che quando un sistema di IA orientava sistematicamente le decisioni in una certa direzione, i partecipanti finivano per incorporare quella stessa distorsione nei propri giudizi. L’aspetto più interessante è che l’effetto non scompariva quando l’IA veniva rimossa. Anche nella fase successiva, in cui dovevano decidere autonomamente, i partecipanti continuavano a riprodurre il bias appreso durante l’interazione con il sistema. Il punto è decisivo. Se l’influenza persiste anche in assenza dello strumento, non siamo più soltanto di fronte a una risposta accettata passivamente. Una parte del modo in cui il soggetto valuta il problema sembra essere stata modificata.
Questo risultato è particolarmente significativo perché permette di distinguere l’influenza momentanea dalla trasformazione di una pratica cognitiva. Se l’effetto permane una volta rimosso lo strumento, non siamo più soltanto di fronte a una risposta accettata passivamente. Una parte della struttura attraverso cui vengono prodotti i giudizi potrebbe essere stata modificata.
Glickman e Sharot (2025) hanno descritto un ulteriore meccanismo. I bias dell’IA possono essere trasmessi agli esseri umani e inserirsi in circuiti di retroazione nei quali le distorsioni vengono progressivamente amplificate. Gli individui, inoltre, possono non essere pienamente consapevoli dell’intensità dell’influenza esercitata dal sistema.
Non sarebbe corretto dedurre da questi risultati che qualsiasi uso dell’intelligenza artificiale produca una colonizzazione della mente. Gli studi documentano fenomeni specifici e la nozione di colonizzazione cognitiva resta una proposta teorica. Permette però di formulare una domanda che difficilmente poteva emergere nell’epoca dei tradizionali strumenti cognitivi. Che cosa accade quando uno strumento non si limita a sostenere il pensiero, ma partecipa stabilmente alla formazione dei criteri attraverso cui pensiamo?
Perché il pensiero critico potrebbe non bastare
La risposta più frequente ai rischi dell’intelligenza artificiale consiste nell’invocare maggiore pensiero critico. Bisogna verificare le fonti, confrontare le risposte, riconoscere gli errori e non attribuire ai sistemi un’autorità che non possiedono. Sono competenze indispensabili. Il modello del System 0 mostra però perché potrebbero non essere sufficienti.
La verifica critica interviene normalmente dopo che un contenuto è stato presentato. Possiamo dubitare di una risposta, controllare un’informazione o rifiutare una raccomandazione, ma diventa molto più difficile esercitare lo stesso controllo sul processo che ha stabilito quali informazioni avremmo incontrato e quali no. Il pensiero critico può agire su ciò che ci viene mostrato, mentre è molto più difficile mettere in discussione ciò che è stato escluso prima ancora di entrare nel nostro campo di attenzione. Se l’intelligenza artificiale opera anche come infrastruttura della rilevanza, l’autonomia cognitiva non può essere difesa soltanto chiedendo agli utenti di diventare più vigili. Occorre intervenire sul modo in cui questi sistemi vengono progettati e resi comprensibili.
Diventano allora centrali la trasparenza dei criteri di personalizzazione, la possibilità di modificarli, la pluralità delle fonti, la riconoscibilità della mediazione algoritmica e la progettazione di ambienti che non abbiano come unico obiettivo la riduzione dell’attrito o la massimizzazione del coinvolgimento. L’obiettivo non dovrebbe essere quello di costruire tecnologie meno efficaci, quanto di interrogarsi sull’idea di soggetto incorporata nei criteri stessi della loro efficacia.
L’autonomia comincia prima della scelta
Siamo abituati a pensare l’autonomia come possibilità di scegliere liberamente tra alternative disponibili. Ma nessuna scelta comincia nel momento esatto in cui decidiamo. Le alternative devono prima diventare pensabili, comparire nel nostro campo di attenzione e assumere un certo grado di rilevanza. È in questo spazio preliminare che l’intelligenza artificiale sta acquisendo una presenza sempre maggiore.
La questione non consiste quindi nello stabilire se dobbiamo usare o non usare questi sistemi. Gli esseri umani hanno sempre pensato attraverso strumenti, linguaggi, istituzioni e tecnologie. Scriviamo per ricordare, usiamo mappe per orientarci, calendari per organizzare il tempo, libri e archivi per conservare conoscenze che nessuna memoria individuale potrebbe contenere. Anche il linguaggio stesso struttura ciò che possiamo distinguere, nominare e condividere. Una mente completamente indipendente dal proprio ambiente, dunque, non è mai esistita. L’IA introduce però una combinazione inedita tra integrazione cognitiva, personalizzazione continua e opacità. Uno strumento può imparare da noi mentre noi impariamo attraverso di esso. Può anticipare le nostre preferenze e, nel farlo, concorrere a costruirle. Può semplificare una scelta dopo avere contribuito a definire le alternative entro cui essa avverrà.
Per questo l’autonomia nell’epoca dell’intelligenza artificiale non riguarda soltanto la libertà di accettare o rifiutare una risposta. Riguarda anche la possibilità di conservare un margine di controllo sui processi attraverso cui qualcosa arriva a sembrarci rilevante.
Una delle trasformazioni più profonde introdotte dall’IA riguarda proprio questo passaggio. Il problema non è soltanto capire se una macchina possa pensare al nostro posto, ma che cosa accade quando comincia a partecipare alla definizione di ciò che, per noi, vale la pena pensare.
Riferimenti bibliografici
Bergamaschi Ganapini, M., Chiriatti, M., Panai, E., Riva, G. (2026), Before You Think: System 0, AI-Mediated Cognition and Cognitive Colonization, arXiv preprint, arXiv:2606.13658.
Chen, M.-Y., Lughofer, E., Rubio, J. de J., Wu, Y. J. (2021), “Editorial: Anticipatory Systems: Humans Meet Artificial Intelligence”, Frontiers in Psychology, 12: 721879.
Chiriatti, M., Ganapini, M., Panai, E., Ubiali, M., Riva, G. (2024), “The Case for Human–AI Interaction as System 0 Thinking”, Nature Human Behaviour, 8, pp. 1829–1830.
Chiriatti, M., Bergamaschi Ganapini, M., Panai, E., Wiederhold, B. K., Riva, G. (2025), “System 0: Transforming Artificial Intelligence into a Cognitive Extension”, Cyberpsychology, Behavior, and Social Networking, 28(7), pp. 534–542.
Clark, A., Chalmers, D. (1998), “The Extended Mind”, Analysis, 58(1), pp. 7–19.
Dahmani, L., Bohbot, V. D. (2020), “Habitual Use of GPS Negatively Impacts Spatial Memory During Self-Guided Navigation”, Scientific Reports, 10, 6310.
Doshi, A. R., Hauser, O. P. (2024), “Generative AI Enhances Individual Creativity but Reduces the Collective Diversity of Novel Content”, Science Advances, 10(28), eadn5290.
Draxler, F., Werner, A., Lehmann, F., Hoppe, M., Schmidt, A., Buschek, D., Welsch, R. (2024), “The AI Ghostwriter Effect: When Users Do Not Perceive Ownership of AI-Generated Text but Self-Declare as Authors”, ACM Transactions on Computer-Human Interaction, 31(2), Article 25, pp. 1–40.
Glickman, M., Sharot, T. (2025), “How Human–AI Feedback Loops Alter Human Perceptual, Emotional and Social Judgements”, Nature Human Behaviour, 9, pp. 345–359.
Hohenstein, J., Kizilcec, R. F., DiFranzo, D., Aghajari, Z., Mieczkowski, H., Levy, K., Naaman, M., Hancock, J., Jung, M. F. (2023), “Artificial Intelligence in Communication Impacts Language and Social Relationships”, Scientific Reports, 13, 5487.
Kahneman, D. (2011), Thinking, Fast and Slow, New York, Farrar, Straus and Giroux.
Riva, G., Brizzi, G., De Gaspari, S., La Rocca, S., Longoni, F., Noselli, E., Pupillo, C., Passalacqua, G., Rabarbari, E., Sajno, E., Sansoni, M., Wiederhold, B. K. (2025), “The Comfort-Growth Paradox of Technology: A Cyberpsychological Compass for Innovation”, Annual Review of Cybertherapy and Telemedicine, 2025, pp. 3–9.
Vicente, L., Matute, H. (2023), “Humans Inherit Artificial Intelligence Biases”, Scientific Reports, 13, 15737.
Partecipa alla community