La possibilità che la coscienza si realizzi in un sistema non biologico, per esempio in un’intelligenza artificiale, sta diventando sempre di più oggetto di discussioni non solo speculative o filosofiche ma anche scientifiche e persino etico-politiche ed economiche. In Italia, mi fa piacere ricordarlo, abbiamo una lunga tradizione, tra cui il lavoro di Antonio Chella che è uno dei pionieri dell’approccio ingegneristico alla coscienza artificiale. In questi ultimi mesi, però, il problema sta invadendo la letteratura scientifica e non solo.
Indice degli argomenti
Coscienza artificiale negli LLM, perché il dibattito si accelera
All’inizio di luglio, un white paper di Anthropic ha messo in evidenza delle analogie tra alcune strutture cognitive che nell’essere umano si pensa siano legate alla coscienza e l’organizzazione interna di Claude. Ci si è posti la domanda sulla possibile presenza di coscienza dentro un LLM. Il numero di agosto della rivista The Economist ha dedicato la sua copertina proprio a questa domanda: le intelligenze artificiali potrebbero diventare coscienti? Persino l’ex presidente degli Stati Uniti Barack Obama, in un discorso tenuto alla Colgate University di Hamilton (New York) il 18 settembre, ha sentito il bisogno di chiamare in causa la possibilità della coscienza nelle macchine, se non altro per dire che il pericolo non dipende da essa. Infine, è di qualche giorno fa la notizia dell’identificazione, nel comportamento degli LLM da parte del gruppo di Tagliabue, Dung e Berg (2026), di schemi di comportamento analoghi a quelli degli esseri umani di fronte alla percezione cosciente di un dolore. Ma comportamenti analoghi non dice niente sulle loro cause.
Il fatto è che la coscienza rappresenta tuttora un mistero irrisolto nella comunità scientifica. Non esistono teorie accettate circa la natura e i meccanismi della coscienza. Continua a essere valida la definizione di Stuart Sutherland proposta per l’International Dictionary of Psychology molti anni fa, secondo cui la coscienza non si sa cos’è, che cosa fa e perché si sia evoluta.
Il problema dell’esperienza cosciente non risolta
Se si osserva un cervello di un essere umano cosciente, non si osserva alcun fenomeno che corrisponda alla sua esperienza. Se si guarda un’area corticale coinvolta nella percezione cosciente, poniamo di una banana, non si osserva alcuna attività che abbia le caratteristiche dell’esperienza cosciente. Neuroni, neurotrasmettitori, onde sodio-potassio sono altrettanti meccanismi che hanno indubbiamente un ruolo cruciale nelle nostre attività cerebrali, ma, per quanto ne sappiamo, potrebbero avvenire senza che vi sia alcuna esperienza cosciente associata ad esse. Il riconoscimento di un volto non è l’esperienza cosciente del volto. D’altronde, oggi gli algoritmi di Google Photos riconoscono perfettamente i volti senza che nessuno creda che il sistema sia cosciente e veda i nostri volti. Oltretutto, il fatto che Google Photos veda o meno i volti che riconosce benissimo è totalmente ininfluente per chi lo utilizza. Non a caso, gli stessi ricercatori di Anthropic hanno precisato che i loro esperimenti non mostrano che Claude sia cosciente, ma soltanto che organizzi l’informazione in modo simile a ciò che Ned Block chiamava coscienza di accesso. E tuttavia nessuno ha mai spiegato perché questo modello cognitivo dovrebbe aggiungere qualcosa di esperienziale. In merito, anche Shannon Vallor, l’editorialista di The Economist ha commentato che allora anche la sua «automobile potrebbe essere cosciente».
Oggi, però, gli LLM spingono molti, dall’Economist a Barack Obama, a chiedersi se, per caso, l’intelligenza artificiale, al raggiungimento di un certo grado di complessità di conoscenze e di intelligenza, non produrrà anche la coscienza.
LLM e coscienza: la fallacia del linguaggio
D’altronde, consideriamo criticamente le tappe che hanno portato la comunità dell’intelligenza artificiale a interrogarsi sulla possibilità della coscienza. Fino al 2022, gli unici organismi in grado di parlare utilizzando il linguaggio naturale erano gli esseri umani, Homo sapiens. Nessun altro era in grado di parlare. I nostri antenati più prossimi, Neanderthal e Denisova, si erano estinti e quindi non ponevano un problema concreto. Gli animali comunicano, ma sicuramente non parlano, e quindi noi, in quanto organismi parlanti, eravamo anche coscienti.
Dall’invenzione del transformer e dallo sviluppo degli LLM, non siamo più gli unici in grado di parlare. Anche le macchine sono in grado di farlo. Dato che, fino a qualche anno fa, chi parlava era cosciente e spesso si pensava che il parlare fosse dare voce al pensiero cosciente, è naturale che molti applichino il ragionamento inverso e quindi si chiedano se il fatto di parlare non implichi la presenza di una coscienza. È lecito, ma è sbagliato. È ciò che Khadangi definisce la «fallacia della coscienza artificiale». Confondiamo la capacità di imitare il comportamento degli esseri umani coscienti, con la capacità di essere coscienti. Come osserva Susan Schneider, se i chatbot parlano della loro vita interiore è perché imitano il modo in cui noi parliamo della nostra. E viene il dubbio che, in fondo, anche noi parliamo di vita interiore perché abbiamo assorbito un costrutto linguistico che potremmo ricondurre al celebre motto Agostiniano: «in interiore intimo meo».
Del resto, l’autoattribuzione della coscienza in un LLM dipende da criteri modificabili agendo sui quali cambia la propensione del modello ad attribuire coscienza a se stesso, come agli animali o persino agli esseri umani stessi (Kim et al. 2026). Una dichiarazione che si accende e si spegne non è particolarmente convincente.
Non c’è alcun motivo a priori che imponga la nascita della coscienza per spiegare lo sviluppo della capacità linguistica. Non c’è niente in un LLM che richieda, per il suo funzionamento, l’emergere dell’esperienza tra i suoi parametri. Non c’è niente che richieda che l’articolazione linguistica debba essere preceduta o essere seguita da un momento di esperienza cosciente, da un momento in cui qualcosa è presente a qualcos’altro.
La coscienza come presenza di qualcosa a qualcos’altro
La coscienza è qualcosa di più di un processo cognitivo definibile in modo funzionale. La coscienza, per dirla nel modo più generale possibile, è la presenza di qualcosa a qualcos’altro. Detto così è molto generale, ma cerco di rendere questa formula nel modo più semplice possibile. In questo momento, io sono cosciente del vaso di orchidee sul tavolino di fronte a me. Io non sono, ovvio, l’orchidea, ma in qualche modo l’orchidea, con i suoi colori, la sua forma e il suo profumo, è presente nella mia esperienza. Come avviene questa presenza? Sono 400 anni che i filosofi si pongono questa domanda, provando a rispondere in termini di immagini mentali, idee, intenzionalità e molti altri concetti che non hanno un corrispondente ovvio nella realtà fisica. In modo analogo, è da circa 100 anni che i neuroscienziati cercano dei processi neurali che possano farsi carico di questa presenza, ovvero che possano essere coscienti dell’orchidea che resta ostinatamente fuori dal sistema nervoso eppure si presenta nell’esperienza del proprietario di quel sistema nervoso.
Questa presenza in assenza è la coscienza. In altra sede, ma non qui, ho messo in discussione questo modo di formulare il problema perché, in questi termini, non sembra poter avere una soluzione e sconfina pericolosamente in quelle domande che il filosofo della scienza Rudolf Carnap definiva “pseudo-problemi”.
È lecito chiedersi se la formulazione del problema della coscienza in termini di una proprietà speciale che si fa carico di una capacità fisicamente impossibile, non sia un residuo di visioni animistiche o antropocentriche.
Perché gli LLM non hanno bisogno della coscienza per funzionare
Se vogliamo, l’esigenza di presupporre la coscienza alle spalle del pensiero, da un punto di vista storico e concettuale, ha analogie con le esigenze che alcuni hanno avuto di mettere un creatore o un disegno intelligente dietro l’evoluzione. La teoria della selezione naturale di Charles Darwin nasce proprio per fare a meno di un creatore intenzionale che con finalità sue produce i viventi. A molti questo è parso inaccettabile e quindi molti hanno cercato di giustificare l’evoluzione aggiungendo un principio creatore di cui la teoria di Darwin non aveva alcuna necessità. Nel caso del linguaggio, gli LLM, al pari della teoria della selezione naturale, sono la dimostrazione pratica che l’articolazione linguistica e testuale non richiede un pensiero intenzionale o un parlante. Ancora una volta, a molti questo pare inaccettabile e quindi cercano di giustificare la capacità linguistica degli LLM aggiungendo una coscienza di cui l’algoritmo del transformer non ha alcuna necessità.
Tra l’altro, non dimentichiamoci che l’attuale tecnologia alla base degli LLM non è pensata per costruire una mente artificiale, ma è sostanzialmente uno sviluppo ipertrofico di un modulo linguistico progettato per tradurre. Gli LLM quindi implementano sicuramente una forma di conoscenza, ma non c’è alcun motivo per credere che, come per magia, producano al loro interno la coscienza, intesa come presenza del mondo all’LLM.
Faccio un esempio concreto: un LLM, durante il suo addestramento, estrae dai testi quella rete di pesi che gli consente di gestire con assoluta competenza linguistica una serie di concetti, tra cui, per esempio, quello di giallo. L’LLM quindi sarà in grado di parlare di giallo con totale competenza, ma il giallo non è mai entrato nel percorso di addestramento dell’LLM. Nessun ricercatore ha mostrato degli oggetti gialli all’LLM. Quindi l’LLM non può essere cosciente di qualcosa che è stato fisicamente assente nel suo percorso di apprendimento. In modo analogo, questo vale non solo per il giallo, ma per qualsiasi altro concetto che l’LLM ha imparato a maneggiare con totale sicurezza e con una competenza analoga a quella degli esseri umani sui cui testi si è addestrato. Le parole e i parametri statistici non contengono il significato e, meno che mai, il riferimento esterno. Ma il corpo, a sua volta, non contiene il «giallo», ma serve affinché una proprietà fisica sia stata fisicamente parte della storia del sistema.
Il ruolo causale della coscienza tra esperienza e cognizione
Una domanda cruciale che si pone nel momento in cui i sistemi artificiali riproducono le capacità cognitive dell’essere umano è quella rivolta al ruolo causale della coscienza. In parole povere: la coscienza fa qualcosa? Se io sono cosciente dell’esperienza cromatica del giallo, quando uso la parola giallo, la uso in modo diverso? Tra la coscienza e la conoscenza, tra l’esperienza e la cognizione, esiste un collegamento? Il punto è che, se la coscienza avesse un ruolo cognitivo, allora sarebbe possibile descriverla in termini funzionali, ma se così fosse, non sarebbe la coscienza. Eppure rimane il fatto evidente che gli esseri umani e probabilmente gran parte dei vertebrati, lasciando la domanda in sospeso per il resto dei viventi, sono normalmente considerati capaci di coscienza e non semplici sistemi funzionali. Questo suggerirebbe un ruolo funzionale per la coscienza, giacché, altrimenti, la selezione naturale non avrebbe prodotto organismi capaci di fare esperienze del mondo. Quale ruolo? Ed è possibile che sia così difficile da individuare? Si prenda il citato studio sull’«asse del dolore» di Tagliabue et al.: in venticinque modelli gli autori individuano, nello spazio delle attivazioni, una direzione che si comporta come il dolore, si distingue dalla paura e dalla tristezza e spinge il modello a premere un «pulsante antidolorifico» anche a proprio svantaggio. È un risultato notevole, ma, per le ragioni appena dette, non può dirci nulla sulla coscienza: ciò che mostra è un ruolo funzionale, e un ruolo funzionale è esattamente ciò che si potrebbe avere senza alcun dolore provato.
Tuttavia, quanto ho detto non implica che esista una barriera metafisica tra gli esseri umani e l’intelligenza artificiale. Non ci sono motivi di principio che escludano che un sistema artificiale abbia lo stesso ruolo, per ora non compreso, che il cervello e il corpo umani hanno nel permettere questo presentarsi del mondo che noi chiamiamo coscienza.
Coscienza artificiale, diritti e responsabilità delle macchine
Ovviamente, la differenza tra sistemi che sono associati alla coscienza e sistemi che non lo sono è cruciale, anche perché la coscienza negli organismi biologici è associata con l’intenzionalità e con la capacità di autodeterminarsi, oltre che con la responsabilità e il fatto di avere diritti. Per esempio, da quando gli animali sono considerati esseri capaci di coscienza e quindi di fare esperienza di stati come il dolore, le legislazioni si sono modificate per evitare che a essi vengano inflitte sofferenze inaccettabili. In modo analogo, negli esseri umani, la coscienza è considerata un aspetto necessario per l’attribuzione di responsabilità in una scelta. Oggi, con lo sviluppo dell’intelligenza artificiale agentica e l’esternalizzazione a essa di ruoli decisionali, è chiaro come l’eventuale attribuzione di coscienza alle macchine avrebbe conseguenze sociali e legali di portata incalcolabile.
Riassumo: oggi non abbiamo una teoria robusta della coscienza, non solo nel caso degli LLM o dei robot prossimi venturi, ma nemmeno per quanto riguarda gli organismi biologici di cui noi siamo l’esempio più clamoroso. Oggi non esiste una teoria che sia in grado di individuare in modo oggettivo dove e come noi esseri umani siamo coscienti. Per questo i tentativi di misurarla negli algoritmi con liste di indicatori o modelli probabilistici non sono convincenti. Che cosa misurano veramente? Per dire, il Digital Consciousness Model di Shiller et al. stima al 20% che un LLM sia cosciente e poi cerca di migliorarla usando teorie delle quali nessuna è accettata.
È un calcolo applicato a premesse incerte. Né convince chi cerca «correlati macchinici della coscienza» nelle anomalie dell’hardware: si cerca nella macchina ciò che non si è ancora trovato nel cervello. Considerata l’importanza fondamentale che ha la coscienza nel definire i diritti morali, le regole etiche, l’equilibrio politico, il sistema economico e il sistema sanitario, nel momento in cui l’intelligenza artificiale riproduce, una dopo l’altra, tutte le caratteristiche che nell’essere umano sono associate alla coscienza (a partire appunto dal linguaggio e dalla competenza semantica), questa domanda si pone in modo sempre più urgente. Non può essere elusa, anche se la risposta dovrà essere cercata prima sul terreno degli esseri umani, dove siamo empiricamente sicuri che la coscienza si manifesta, e poi nelle strutture analoghe dell’intelligenza artificiale.
Riferimenti bibliografici
Block, N. (1995). On a confusion about a function of consciousness. Behavioral and Brain Sciences, 18(2), 227–287.
Chella, A. (2026), Può un robot emozionarsi? Riflessioni sull’intelligenza artificiale, la coscienza e le emozioni nelle macchine, Mondadori Università.
Gurnee, W., Sofroniew, N., Pearce, A., et al. (2026). Verbalizable Representations Form a Global Workspace in Language Models. Anthropic, 6 luglio 2026
Khadangi, A. (2026). We Built a Mirror and Mistook It for a Mind: Causal Liability and the Fallacy of AI Consciousness. arXiv.
Kim, J., Street, W., Rocca, R., Korngiebel, D. M., Waytz, A., Evans, J., Keeling, G. (2026). Inducing language models to assert their own consciousness restores human beliefs and values. arXiv.
Obama, B. (2026). My Conversation at Colgate University. Medium, settembre 2026. https://barackobama.medium.com/my-conversation-at-colgate-university-6d4e21b312d3
Schneider, S. (2026). Don’t mistake chatbot intelligence for consciousness. The Economist, 20 agosto 2026.
Shiller, D., Duffy, L., Muñoz Morán, A., Moret, A., Percy, C., Clatterbuck, H. (2026). Initial results of the Digital Consciousness Model. arXiv.
Sutherland, S. (1989). The International Dictionary of Psychology. London: Macmillan.
Tagliabue, V., Dung, L., Berg, C. (2026). The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It. arXiv
The Economist (2026). Could AIs become conscious? 20 agosto 2026
The Economist (2026). The search for consciousness inside LLMs. 20 agosto 2026.
Partecipa alla community