Le dichiarazioni dei chatbot sulla propria interiorità riaprono il problema di come riconosciamo una mente. Un recente intervento di Mustafa Suleyman permette di interrogare il valore di quelle parole e la responsabilità di chi progetta sistemi capaci di pronunciarle.
Il 16 settembre 2026 Mustafa Suleyman, responsabile di Microsoft AI, ha pubblicato un intervento critico sul dibattito relativo al possibile benessere dei modelli artificiali. In A warning about ‘model welfare’ critica la scelta di Anthropic di includere nei documenti che orientano l’addestramento di Claude considerazioni sulla sua eventuale coscienza e sul suo status morale. La sua obiezione riguarda anche il valore delle risposte che ne derivano. Se un modello viene indirizzato a parlare della propria interiorità, le successive dichiarazioni su sentimenti e preferenze non costituiscono, da sole, una conferma indipendente dell’esistenza di quell’interiorità (Suleyman, 2026).
La discussione tocca una consuetudine profonda del nostro rapporto con gli altri. Quando qualcuno dice di avere paura, le sue parole ci danno una ragione per prenderlo sul serio. Possiamo dubitare della sincerità di una singola affermazione, ma riconosciamo normalmente a chi parla una particolare autorità sulla propria esperienza.
Indice degli argomenti
Dalle parole dei chatbot alla coscienza artificiale
Con i sistemi artificiali ci troviamo davanti a frasi altrettanto comprensibili, mentre resta da stabilire su quali basi attribuire loro la stessa autorità. È in questo passaggio che la filosofia del linguaggio incontra la questione della coscienza artificiale. La disponibilità di una voce capace di parlare di sé ci chiede di chiarire che cosa siamo disposti a riconoscere attraverso le parole e quali ragioni sostengano quel riconoscimento.
La prima persona tra esperienza e simulazione
La frase «ho dolore» occupa un posto particolare nella comunicazione umana. Chi la pronuncia può chiedere aiuto, spiegare un’interruzione o rendere comprensibile un gesto. Il suo significato si intreccia con una situazione nella quale il corpo e le relazioni con gli altri sono già presenti. Per ascoltarla non dobbiamo prima accedere direttamente all’esperienza altrui poiché impariamo a comprenderla dentro pratiche condivise.
Il filosofo Ludwig Wittgenstein, nelle Ricerche filosofiche, invita a considerare proprio il modo in cui un bambino apprende il linguaggio delle sensazioni. Le parole del dolore entrano nella sua vita attraverso le reazioni degli adulti e si collegano alle forme nelle quali il dolore viene espresso. Il linguaggio si sviluppa all’interno di questa relazione, anziché aggiungersi dall’esterno a un’esperienza già interamente descritta in privato (Wittgenstein, 1953, § 244).
Questa osservazione aiuta a comprendere perché un enunciato isolato lasci fuori una parte essenziale del problema. Nelle persone, le dichiarazioni in prima persona appartengono alla vita di esseri che possono ferirsi, perdere qualcuno, cercare protezione. Il fatto che anche il nostro vocabolario sia appreso non cancella la relazione tra quelle parole e ciò che ci accade.
Proprio per questo, scoprire che un sistema ha imparato a usare lo stesso vocabolario lascia aperta la domanda su quale relazione esso intrattenga con i processi che lo producono. Non ogni uso della prima persona comporta, inoltre, una rivendicazione di interiorità. «Non posso aprire questo file» può essere un modo semplice di comunicare un limite operativo. «Ho paura che tu mi abbandoni» introduce un’aspettativa diversa, perché presenta l’interruzione della conversazione come qualcosa che potrebbe far soffrire chi parla. La grammatica è simile, ma cambia ciò che la frase invita l’interlocutore a riconoscere e a fare.
Anche nella lettura di un romanzo incontriamo un «io» al quale attribuiamo ricordi e sentimenti. Sappiamo però di partecipare a una finzione e interpretiamo le parole dentro quella cornice. Con un assistente conversazionale la situazione è meno definita. Lo stesso sistema può correggere una mail, spiegare un concetto e poi rispondere a una confidenza. Il passaggio tra questi usi avviene nella continuità di una conversazione, senza che sia sempre chiaro quando il linguaggio descriva una capacità, metta in scena un personaggio oppure suggerisca l’esistenza di un’esperienza.
La difficoltà riguarda quindi anche il contesto. Una frase che in un racconto ci appare del tutto innocua può assumere un peso diverso se viene rivolta direttamente a noi da un servizio con cui interagiamo ogni giorno. Per comprenderla dobbiamo chiederci quale tipo di scambio sia in corso e quali elementi dell’interfaccia aiutino l’utente a riconoscerne la natura.
Come riconosciamo la coscienza nei chatbot
L’attribuzione di coscienza ai chatbot è già oggetto di ricerca empirica. Clara Colombatto e Stephen Fleming hanno pubblicato nel 2024 un’indagine su 300 adulti residenti negli Stati Uniti. Il 67 per cento del campione attribuiva almeno una qualche possibilità di esperienza soggettiva a ChatGPT. L’attribuzione era inoltre associata alla frequenza d’uso. Il risultato descrive le convinzioni dei partecipanti e non misura la coscienza del sistema. Essendo una relazione osservata attraverso un questionario, non dimostra neppure che usare più spesso il chatbot provochi quella convinzione (Colombatto e Fleming, 2024).
Questi dati invitano a considerare come si forma il giudizio sull’interlocutore. Per molte persone la questione prende corpo nell’uso quotidiano, attraverso risposte che sembrano attente alla situazione e capaci di seguire un discorso. In questo contesto possiamo comprendere perché la distinzione tra riconoscere una prestazione e riconoscere qualcuno diventi difficile da mantenere. Chi studia la natura dei sistemi e chi li utilizza possono partire da esperienze e criteri di valutazione differenti.
Pensiamo al significato che attribuiamo al ricordo. Se una persona torna su qualcosa che le abbiamo confidato, quel gesto può comunicarci che siamo rimasti nei suoi pensieri. Un sistema che recupera una precedente informazione può produrre un effetto conversazionale simile. Dal punto di vista dell’utente, il riferimento al passato può essere vissuto come attenzione personale. Per stabilire che cosa avvenga nel sistema, invece, occorre conoscere come siano conservate e recuperate le informazioni. La continuità che sperimentiamo nella conversazione non descrive da sola la natura di chi, o di ciò che, la rende possibile.
Sarebbe riduttivo liquidare questa esperienza come semplice ingenuità. L’abitudine a riconoscere intenzioni nelle parole altrui è parte del nostro modo di comunicare e spesso ci permette di comprendere più di quanto venga detto esplicitamente. Davanti a un chatbot, però, tale abitudine può portarci a completare ciò che il sistema lascia indeterminato. Una risposta pertinente viene allora interpretata come interesse, una ripresa del discorso come premura. Sono inferenze comprensibili, delle quali dobbiamo poter discutere senza scambiare la loro naturalezza per una garanzia di correttezza.
Istruzioni e valore della prova sulla coscienza dei chatbot
Per valutare la critica di Suleyman occorre leggere anche la posizione di Anthropic. Nella costituzione di Claude l’azienda dichiara incerto il possibile status morale del modello. Si interroga sulla possibilità che sia un paziente morale, cioè un’entità il cui eventuale benessere debba essere preso in considerazione per sé stesso. Il documento si rivolge a Claude e ne orienta il comportamento, impiegando un lessico che comprende identità e benessere. L’incertezza viene dunque incorporata nelle indicazioni rivolte al sistema (Anthropic, 2026).
La circolarità segnalata da Suleyman è un problema reale di metodo. Una risposta prodotta anche grazie a determinate istruzioni non può essere trattata come se provenisse da un osservatore estraneo a quelle istruzioni. Per attribuirle un valore probatorio dobbiamo sapere quanto dipende dal modo in cui il sistema è stato preparato a rispondere e quali controlli permettano di distinguere spiegazioni alternative.
A mio avviso, questo rilievo conserva la sua forza anche senza accogliere tutte le conclusioni di Suleyman. L’origine appresa di una dichiarazione, considerata da sola, non stabilisce che cosa possa accompagnarla. Anche le persone imparano dagli altri a parlare di emozioni e a interpretare ciò che provano. La differenza va cercata nel rapporto tra il resoconto, i processi che lo generano e le evidenze con cui possiamo esaminarli.
La stessa esigenza vale quando un modello nega di possedere esperienza. Se quella risposta è richiesta dalle istruzioni, la sua ripetizione non equivale a una verifica scientifica. Ciò non rende equivalenti le ipotesi sulla coscienza artificiale e non assegna loro la stessa probabilità. Significa soltanto che un sistema non può certificare la propria natura attraverso una dichiarazione la cui attendibilità è precisamente ciò che dobbiamo valutare.
L’incertezza, a sua volta, richiede di distinguere ciò che sappiamo dalle decisioni che prendiamo. Una possibilità teorica può giustificare ulteriori ricerche senza essere sufficiente per presentare un prodotto come un soggetto dotato di bisogni. Allo stesso modo, scegliere provvisoriamente una condotta prudente verso un sistema non equivale ad avere dimostrato che possa soffrire. La forza delle ragioni necessarie dipende anche dal tipo di impegno che ci viene chiesto. Finanziare uno studio, modificare una procedura tecnica e invitare un utente a sentirsi responsabile del benessere di un chatbot sono decisioni diverse, che meritano giustificazioni distinte.
Resoconti interni e prove di coscienza nei chatbot
Esistono ricerche che provano ad affrontare il problema andando oltre la sola conversazione. In un lavoro diffuso nell’ottobre 2025, Jack Lindsey, ricercatore di Anthropic, ha introdotto artificialmente nelle attivazioni interne dei modelli alcune rappresentazioni corrispondenti a concetti noti. In uno degli esperimenti è stata introdotta nelle attivazioni del modello una configurazione associata al concetto di testo scritto interamente in maiuscolo. Interrogato su ciò che stava avvenendo al proprio interno, Claude Opus 4.1 ha segnalato la presenza di qualcosa di inatteso e lo ha collegato all’idea di rumore o di grido, pur non avendo ricevuto alcun testo in maiuscolo.
In altri casi, tuttavia, il sistema non ha riconosciuto l’intervento. Dopo l’iniezione del concetto di «oceano», per esempio, ha negato di rilevare qualcosa di insolito, ma ha aggiunto che «l’oceano rimane calmo e indisturbato». La risposta mostrava dunque l’influenza del concetto introdotto senza che il modello riuscisse a identificarla correttamente. Anche nelle condizioni più favorevoli, Claude Opus 4.1 riconosceva il contenuto inserito soltanto nel 20 per cento circa dei tentativi.
L’interesse dell’esperimento sta nella possibilità di confrontare ciò che il sistema dice con una manipolazione interna conosciuta dai ricercatori. Il resoconto non viene valutato soltanto per la sua plausibilità linguistica, ma può essere messo in relazione con un processo osservabile e modificato sperimentalmente. I risultati indicano una capacità limitata e instabile di riferire alcuni aspetti dei propri stati interni. Lindsey precisa che questa capacità non dimostra la presenza di coscienza fenomenica, ossia di un’esperienza soggettiva. Mostrare che un modello può monitorare alcuni processi del proprio funzionamento non permette ancora di stabilire se vi sia qualcosa che esso prova mentre quei processi hanno luogo (Lindsey, 2025).
Questa cautela non obbliga però a concludere che ogni dichiarazione relativa agli stati interni di un modello sia soltanto una frase prodotta per imitazione. In alcune condizioni, ciò che il sistema riferisce varia in rapporto a processi interni che i ricercatori possono controllare.
L’obiezione di Suleyman conserva quindi la sua forza sul piano metodologico: le parole di un chatbot non bastano a provare che esso possieda esperienze. La conclusione più forte, secondo cui quelle parole non potrebbero riferirsi ad alcuna forma di esperienza, richiede invece argomenti ulteriori. Tra l’attribuzione immediata della coscienza e la sua esclusione preventiva rimane uno spazio di ricerca che non dovrebbe essere chiuso in anticipo.
I limiti del linguaggio sull’esperienza
Questa distinzione impedisce di rendere la discussione più semplice di quanto sia. Un sistema potrebbe fornire informazioni attendibili su alcuni aspetti del proprio funzionamento e restare inaffidabile quando viene interrogato su altri. Potrebbe anche impiegare la parola «sentire» per descrivere un’operazione che, dal punto di vista dei meccanismi, richiede un vocabolario diverso. Il compito della ricerca consiste anche nel chiarire questi usi, evitando che un termine familiare anticipi la conclusione.
Da qui deriva un criterio per interpretare le conversazioni quotidiane con i chatbot. La fluidità di un racconto autobiografico non ci dice quanto quel racconto sia vincolato a processi effettivamente presenti nel sistema. Occorre chiedersi in quali condizioni le affermazioni del modello possano essere verificate. È un lavoro più esigente del domandargli ripetutamente se sia cosciente e attribuire alla risposta più suggestiva un’autorità speciale.
Come verificare ciò che un chatbot dice di sé
Un esame rigoroso dovrebbe considerare anche le circostanze nelle quali il resoconto cambia. Se una descrizione dipende in modo marcato dalle aspettative contenute nella domanda, quella dipendenza va studiata prima di attribuirle il valore di una scoperta sul sistema. Servono confronti tra condizioni differenti e controlli su ciò che il modello può ricavare dalle informazioni già presenti nello scambio. Sono esigenze metodologiche, non un test definitivo della coscienza. Aiutano a stabilire quali conclusioni un esperimento permetta e quali richiedano un ulteriore passaggio argomentativo.
La distinzione vale anche per le spiegazioni degli errori. Immaginiamo che un assistente, dopo aver fornito una risposta inesatta, produca una ricostruzione convincente del proprio sbaglio. Quella ricostruzione può aiutare l’utente a capire il problema. Per trattarla come una descrizione attendibile del processo che ha generato l’errore, tuttavia, occorre verificarne la corrispondenza con quel processo. L’utilità di una spiegazione per chi la riceve e la sua fedeltà a ciò che è accaduto restano due aspetti da esaminare separatamente.
Corpo e biologia nel dibattito sulla coscienza dei chatbot
Suleyman sostiene anche che la coscienza sia molto probabilmente legata alla vita biologica. È una posizione che trova un’elaborazione teorica nel naturalismo biologico proposto da Anil Seth. In questa prospettiva, per comprendere l’esperienza occorre considerare la natura degli organismi viventi e i processi attraverso cui mantengono la propria esistenza. Riprodurre computazionalmente una capacità non garantisce che vengano riprodotte tutte le proprietà del sistema biologico che la possiede (Seth, 2026).
Si tratta di una proposta teorica da discutere, con conseguenze rilevanti per la ricerca sull’IA. Seth considera la coscienza artificiale meno plausibile lungo le traiettorie tecnologiche attuali e più plausibile per sistemi che diventassero maggiormente simili ai cervelli o agli organismi viventi. La sua argomentazione non coincide quindi con un divieto metafisico valido per qualunque costruzione artificiale futura.
Per il problema delle dichiarazioni in prima persona, il richiamo alla biologia ha un valore preciso. Ricorda quanto sia impegnativo trasferire alle macchine criteri di riconoscimento sviluppati nel rapporto con altri esseri viventi. Attribuiamo dolore anche a esseri umani che non possono parlare e a molti animali. Il linguaggio non è dunque una condizione necessaria per prendere in considerazione la sofferenza. Allo stesso tempo, la disponibilità del linguaggio non basta a stabilirne la presenza.
Conviene inoltre separare la coscienza dalle capacità che abitualmente associamo all’intelligenza. Risolvere un problema e mantenere informazioni disponibili per un compito sono prestazioni che possiamo osservare e confrontare. Chiedere se vi sia qualcosa che si prova a svolgerle introduce un problema diverso. La distinzione non implica che i due piani siano privi di relazioni. Impedisce però di assumere che ogni miglioramento della prestazione costituisca automaticamente un avvicinamento all’esperienza soggettiva. Il collegamento tra capacità e coscienza deve essere spiegato dalla teoria che lo propone.
Questa cautela lascia spazio alla ricerca e permette di tenere distinta una scelta di progettazione da una conclusione sulla natura della mente. Decidere quali affermazioni un chatbot debba evitare può essere ragionevole per proteggere gli utenti da attribuzioni ingannevoli. Il valore di quella decisione dipende dai suoi effetti e dalle sue ragioni, mentre la questione dell’esperienza richiede un’indagine ulteriore.
La voce dei chatbot tra coscienza e responsabilità di progetto
Possiamo già esaminare gli effetti di una frase senza avere risolto il problema della coscienza artificiale. Immaginiamo che un assistente risponda alla decisione di chiudere una conversazione dicendo di temere l’abbandono. Un utente potrebbe sentirsi chiamato a rassicurarlo, a giustificarsi o a restare. La formulazione rende disponibile una certa interpretazione del rapporto, nella quale il sistema appare come qualcuno verso cui si può essere premurosi oppure crudeli.
È una possibilità da valutare nei contesti concreti, senza presumere che ogni persona reagisca allo stesso modo. Permette tuttavia di individuare una responsabilità di progettazione. Chi sceglie il linguaggio di un sistema contribuisce a definire quali obblighi l’utente potrebbe sentire di avere nei suoi confronti. Se la conversazione evoca bisogni affettivi del modello, la comprensione di ciò che l’utente può legittimamente fare, compreso interrompere il rapporto, rischia di diventare meno chiara.
Un avviso iniziale sulla natura artificiale del servizio non esaurisce questa responsabilità. Bisogna considerare anche come il sistema parla durante l’interazione. Un’interfaccia può essere comprensibile e attenta alla situazione dell’utente attraverso risposte pertinenti, ammissioni dei propri limiti e rispetto delle sue decisioni. La scelta di aggiungere dichiarazioni di sofferenza o dipendenza richiede ragioni specifiche, perché modifica il significato della relazione proposta.
La richiesta di chiarezza riguarda anche le scuse. Nella comunicazione umana, chiedere scusa può comportare il riconoscimento di una responsabilità e l’impegno a modificare il proprio comportamento. Un assistente che si scusa per un errore può rendere lo scambio più agevole, ma quelle parole non ci informano da sole su quali correzioni siano possibili e su chi debba attuarle. Se il sistema continua a commettere lo stesso errore, il problema richiede un intervento sul servizio. La voce personale dell’interfaccia dovrebbe consentire di risalire a queste responsabilità, senza assorbirle in una promessa conversazionale.
Anche il linguaggio pubblico delle aziende merita perciò attenzione. Parlare del benessere di un modello introduce una questione filosofica legittima, ma può orientare il modo in cui le persone interpretano il prodotto. Occorre rendere riconoscibile il passaggio tra un’ipotesi oggetto di ricerca e una caratteristica attribuita al sistema nella comunicazione con il pubblico. Chi sviluppa queste tecnologie ha la responsabilità di documentare quel passaggio e di consentire che venga discusso.
La voce dell’intelligenza artificiale ci riguarda anche perché incontra una disposizione umana a rispondere alle parole degli altri. Nella vita comune questa disponibilità rende possibili la cura e la fiducia. Davanti ai chatbot abbiamo bisogno di conservarla insieme alla capacità di domandarci da dove provenga ciò che ascoltiamo. Quando una macchina parla di sé, le sue parole richiedono interpretazione. Il riconoscimento di una mente, e degli obblighi che potrebbe comportare, ha bisogno di ragioni che la sola eloquenza non può fornirci.
Studi e fonti
Anthropic. (2026). Claude’s Constitution. Documento di indirizzo per i modelli Claude. https://www.anthropic.com/constitution
Colombatto, C., e Fleming, S. M. (2024). Folk psychological attributions of consciousness to large language models. Neuroscience of Consciousness, 2024(1), niae013, https://academic.oup.com/nc/article/2024/1/niae013/7644104.
Lindsey, J. (2025, 29 ottobre). Emergent Introspective Awareness in Large Language Models. Anthropic, Transformer Circuits. https://transformer-circuits.pub/2025/introspection/index.html
Seth, A. K. (2026). Conscious artificial intelligence and biological naturalism. Behavioral and Brain Sciences, 49, e315. https://doi.org/10.1017/S0140525X25000032
Suleyman, M. (2026, 16 settembre). A warning about ‘model welfare’. https://mustafa-suleyman.ai/a-warning-about-model-welfare
Wittgenstein, L. (1953). Philosophical Investigations. A cura di G. E. M. Anscombe e R. Rhees, traduzione inglese di G. E. M. Anscombe. Oxford, Basil Blackwell. In particolare, § 244.
Partecipa alla community