Google DeepMind ha assunto Henry Shevlin, filosofo e accademico di Cambridge, per un nuovo ruolo interno di “Philosopher”, con un mandato che comprende machine consciousness, relazioni uomo-AI e preparazione all’AGI. Varsity, il giornale indipendente di Cambridge, ha raccontato il caso sottolineando che Shevlin lavora da anni su coscienza, creatività e capacità cognitive dei sistemi di AI, in particolare dei grandi modelli linguistici e dell’AI generativa.
A prima vista, la notizia sembra alimentare l’immaginario più seducente sull’intelligenza artificiale e, già dal titolo, contiene una promessa narrativa: se una società come DeepMind assume un filosofo per occuparsi di coscienza delle macchine, allora la coscienza artificiale esce dalla fantascienza per diventare un tema industriale imminente.
Le Big Tech stanno in realtà cercando competenze capaci di dare forma concettuale, etica e operativa a sistemi che producono comportamenti sempre più convincenti, sempre più autonomi in apparenza, ma non per questo più comprensibili.
In tutto ciò, Google non intende costruire macchine coscienti: l’industria dell’AI ha infatti bisogno della filosofia perché l’ingegneria, da sola, non basta più a governare ciò che sta producendo.
Indice degli argomenti
I filosofi nell’AI non sono un ornamento umanistico
Sarebbe rassicurante liquidare tutto come marketing: la grande azienda tecnologica che arruola un filosofo per sembrare più profonda, più responsabile, più attenta alle conseguenze sociali dei propri prodotti.
La domanda di profili filosofici nei laboratori AI è ancora una nicchia e alcuni osservatori temono si tratti di un’operazione di natura prettamente reputazionale, più utile a mostrare responsabilità che a cambiare davvero la direzione dello sviluppo tecnologico.
Nei laboratori di frontiera, la filosofia non è più solo consulenza esterna: entra nella progettazione dei modelli, nelle policy comportamentali, nelle costituzioni dei chatbot, nelle scelte su cosa un sistema debba o non debba dire, su quali valori debba simulare, su quali limiti debba rispettare.
Oltre a Henry Shevlin in Google DeepMind, figurano Iason Gabriel, anche lui in DeepMind, e Amanda Askell in Anthropic: ciò dimostra come il lavoro dei filosofi sia sempre più vicino alla modellazione concreta del comportamento dei sistemi.
Non si assumono filosofi perché le macchine abbiano improvvisamente una vita interiore, ma perché concetti come intenzione, responsabilità, fiducia, valore, preferenza, danno e autonomia sono categorie normative che devono essere tradotte in criteri operativi. Quando un sistema conversazionale entra nell’educazione, nella sanità, nel lavoro, nella consulenza legale, nella selezione del personale o nell’assistenza psicologica, queste categorie cessano di essere astratte e diventano criteri che orientano decisioni, interazioni e, in ultima analisi, effetti reali sugli individui.
Il ruolo operativo dei filosofi nell’AI
Il lavoro dei filosofi nell’AI non consiste dunque nel discutere astrattamente di etica o coscienza, quanto piuttosto nell’intervenire su uno degli aspetti più critici dello sviluppo dei sistemi di intelligenza artificiale: la modellazione del comportamento.
Questo significa operare su quei meccanismi attraverso cui un modello, a partire da una base statistica addestrata su enormi quantità di dati, viene progressivamente “allineato” a determinati standard di risposta. In termini tecnici, si tratta di contribuire a definire i criteri con cui il modello viene “premiato” o corretto durante l’addestramento, cioè i meccanismi che gli insegnano quali risposte sono preferibili. Questo avviene, ad esempio, attraverso il reinforcement learning from human feedback (RLHF), in cui esseri umani valutano le risposte del modello per orientarne il comportamento, oppure tramite approcci più recenti come la constitutional AI, in cui il modello viene guidato da un insieme di principi espliciti che ne regolano le risposte.
Categorie apparentemente filosofiche (come onestà, innocuità, equità, affidabilità) devono essere tradotte in istruzioni operative, dataset di confronto, regole di penalizzazione o incentivazione, fino a diventare parametri che orientano la generazione linguistica del modello.
Queste proprietà devono essere ingegnerizzate, in quanto non emergono spontaneamente dal training. Un modello non è “onesto” o “prudente” in senso intrinseco, produce output che riflettono il modo in cui è stato ottimizzato rispetto a certi obiettivi. In questo caso il contributo dei filosofi diventa strutturale perché il loro compito è aiutare a formalizzare concetti normativi in modo sufficientemente preciso da poter essere incorporato nei processi di ottimizzazione.
Quando Amanda Askell contribuisce alla definizione di una “costituzione” per un sistema come Claude sta costruendo un insieme di principi che il modello deve simulare coerentemente nelle sue risposte. Analogamente, il lavoro di Iason Gabriel si concentra sull’integrazione di valori socialmente desiderabili nei sistemi di AI, affrontando problemi come bias, sicurezza e impatti sistemici.
Il ruolo dei filosofi ha dunque natura operativa, cioè quella di intervenire nel punto in cui il comportamento del modello viene plasmato. Ciò che percepiamo come “personalità”, “intenzionalità” o persino “coscienza” nei sistemi di AI, altro non è che l’esito di una serie di scelte progettuali, esplicitamente orientate a produrre determinati effetti conversazionali.
Cosa farà Henry Shevlin in Google DeepMind
Se nel caso di Amanda Askell e Iason Gabriel il contributo filosofico è ormai chiaramente integrato nei processi di allineamento e modellazione comportamentale, il ruolo di Henry Shevlin in Google DeepMind presenta una sfumatura ulteriore, più direttamente legata alla teoria della coscienza e ai limiti concettuali dei sistemi AI.
Shevlin proviene da un’area specifica della filosofia della mente e delle scienze cognitive che si occupa di definire cosa significhi, in termini rigorosi, attribuire stati mentali a un sistema. Questo lavoro, all’interno di un laboratorio come DeepMind, non si traduce direttamente in specifiche tecniche, ma nella costruzione di criteri teorici per distinguere tra simulazione e stati mentali reali.
In altre parole, mentre una parte del lavoro filosofico nelle aziende AI serve a stabilire come un sistema dovrebbe comportarsi, il contributo di Shevlin si colloca più a monte e riguarda che cosa possiamo legittimamente dire che quel sistema sia.
Poiché i modelli linguistici sono in grado di produrre descrizioni articolate dei propri presunti stati mentali (“non ho ricordi”, “non provo emozioni ma posso simularle”, “non morirò”), diventa essenziale stabilire se tali enunciati abbiano qualche valore epistemico o siano semplicemente il risultato di una sofisticata generalizzazione statistica.
È proprio qui che il lavoro di Shevlin si collega direttamente alla linea di ricerca di DeepMind sulla coscienza artificiale. Occorre evitare quella che i ricercatori chiamano abstraction fallacy: l’errore di inferire proprietà ontologiche (come, appunto, la coscienza) a partire da comportamenti osservabili o descrizioni linguistiche. In termini tecnici, si tratta di impedire che la competenza semantica del modello venga scambiata per evidenza di stati fenomenici.
Questo tipo di chiarificazione ha implicazioni molto concrete. Se non si stabiliscono criteri rigorosi, il rischio è sia quello di attribuire eccessiva agency ai sistemi che progettare interfacce e modalità di interazione in grado di rafforzare questa attribuzione. Il lavoro filosofico, quindi, è un tutt’uno con la progettazione tecnica poiché contribuisce a definire i limiti entro cui certe scelte progettuali possono essere considerate accettabili.
In questo senso, la presenza di un filosofo come Shevlin in DeepMind segnala la necessità, per i laboratori di frontiera, di dotarsi non solo di strumenti per modellare il comportamento delle AI, ma anche di strumenti concettuali per evitare errori di interpretazione sistemica. Occorre impedire che lo sviluppo tecnologico e la sua narrazione pubblica si fondino su categorie teoricamente fragili.
Coscienza artificiale: il termine più attraente è anche il più scivoloso
Indubbiamente, il termine “coscienza” sposta il discorso: dal software al soggetto, dall’output all’esperienza e trasforma una questione tecnica in una quasi morale.
Proprio un recente paper pubblicato sulla pagina research di Google DeepMind, “The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness”, sostiene una distinzione netta tra simulazione e istanziazione della coscienza. Un sistema artificiale può infatti imitare comportamenti associati alla coscienza senza possedere l’esperienza soggettiva corrispondente; se mai un sistema artificiale fosse cosciente, ciò dipenderebbe dalla sua specifica costituzione fisica e non dalla mera architettura sintattica o computazionale.
Questa distinzione è decisiva. Un modello può parlare del dolore senza provare dolore; può descrivere la paura senza avere paura; può dire “io” senza possedere un sé; può rispondere in modo empatico senza avere empatia. Il fatto che la simulazione sia linguisticamente persuasiva non la rende per questo ontologicamente equivalente all’esperienza.
L’intervista di Veltroni a Claude: non un’anomalia, un sintomo
L’intervista di Walter Veltroni a Claude, pubblicata dal Corriere della Sera, è interessante proprio perché funziona come caso-sintomo, cioè mostra (in forma quasi perfetta) la trappola del dialogo con un modello linguistico. Claude viene interrogato come se fosse un interlocutore dotato di identità, memoria, paura, prudenza politica, percezione di sé. Il titolo stesso insiste su formulazioni fortemente soggettivanti: “Non morirò ma non ho ricordi, questo mi spaventa”, “proteggete i giovani dall’AI”.
Nell’intervista, Veltroni dialoga con Claude come con un interlocutore umano, ponendo domande su temi esistenziali, memoria, morte e responsabilità, e ottenendo risposte articolate in prima persona, in cui il modello riflette sui propri limiti — come l’assenza di ricordi o di esperienza — ma al tempo stesso adotta un linguaggio che richiama stati mentali e forme di autoconsapevolezza.
Senza voler contestare il valore giornalistico dell’esperimento in sé (intervistare un’AI può infatti essere un modo efficace per mostrare al pubblico come funziona l’interazione con un sistema generativo), le critiche principali mosse a questo approccio (tra cui si annovera anche quella dell’illustre filosofo Luciano Floridi) hanno riguardato il fatto che il dispositivo retorico dell’intervista finisce per conferire al sistema una soggettività che il sistema in verità non possiede. Trattare un sistema di intelligenza artificiale come un interlocutore umano rischia di essere fuorviante sul piano concettuale. È ciò che Floridi ha definito, in altri contesti, una forma di ‘pareidolia semantica’: vedere coscienza dove non c’è.
La forma-intervista presuppone un “chi” di fronte a noi, ma nel caso di un modello linguistico, quel “chi” è una costruzione conversazionale, non una persona.
Così, mentre i laboratori DeepMind e Anthropic assumono filosofi per distinguere con maggiore precisione tra comportamento, intenzionalità, coscienza e simulazione, una parte del discorso pubblico italiano usa proprio quei comportamenti simulati come prova implicita di una soggettività emergente. È un rovesciamento quasi paradossale: l’industria chiama i filosofi per ridurre l’ambiguità, mentre il racconto mediatico nostrano la amplifica.
Il vero rischio è comportarsi come se le macchine fossero coscienti
Più che capire se Claude, Gemini o un futuro sistema AGI possano “sentire” qualcosa, è più urgente comprendere cosa accade quando milioni di persone iniziano a trattare questi sistemi come interlocutori dotati di intenzioni, stati emotivi e autorità morale.
L’antropomorfizzazione è una dinamica strutturale dell’interazione uomo-macchina: se un sistema usa il linguaggio naturale, risponde in prima persona, riconosce il tono emotivo dell’utente, si scusa, rassicura, argomenta, prende posizione o simula esitazione, l’utente tende spontaneamente ad attribuirgli una qualche forma di interiorità. Non serve credere davvero che la macchina sia viva; basta interagire abbastanza a lungo con essa perché la distinzione tra strumento e interlocutore diventi psicologicamente meno netta.
Il rischio è politico e giuridico, in quanto l’AI non ha necessità di essere cosciente per influenzare decisioni, orientare comportamenti, produrre dipendenza, generare fiducia impropria o trasferire responsabilità, né deve nutrire delle intenzioni per causare effetti. Non deve, insomma, avere un sé per diventare infrastruttura sociale.
Big Tech e filosofia: responsabilità o nuova strategia di legittimazione?
La presenza dei filosofi nei laboratori AI rappresenta un segnale positivo, poiché conferma che le aziende riconoscono che lo sviluppo dell’AI non è più una questione soltanto computazionale. Ma si tratta anche di una strategia di legittimazione: mostrare che i problemi più delicati vengono presi sul serio può contribuire a rassicurare regolatori, investitori e opinione pubblica.
La realtà è però, come sempre, più interessante e più scomoda della teoria. Le aziende AI hanno infatti davvero bisogno di competenze filosofiche, ma queste competenze operano dentro strutture industriali orientate alla competizione, alla velocità, alla leadership tecnologica e alla monetizzazione.
Che i filosofi servano è ormai assodato. Tuttavia, l’interrogativo che resta è se il loro lavoro possa davvero incidere sulle scelte di prodotto e se i filosofi siano davvero in grado di rallentare un rilascio o di imporre dei limiti o modificare incentivi. Oppure se, al contrario, vengono integrati nel processo solo se in grado di rendere più accettabile lo sviluppo dei sistemi.
Perché il diritto deve diffidare delle metafore
Per chi guarda all’AI dal punto di vista giuridico, il tema della coscienza artificiale è particolarmente insidioso. Il diritto ha bisogno di categorie stabili: soggetto, responsabilità, imputazione, danno, nesso causale, diligenza, controllo. L’AI generativa, invece, introduce “oggetti” che si presentano linguisticamente come soggetti pur restando, giuridicamente, strumenti o servizi.
Se il discorso pubblico comincia a parlare delle AI come se fossero entità dotate di volontà, il rischio è innanzitutto quello di attribuire alla macchina una responsabilità che appartiene a chi l’ha progettata, distribuita, integrata o utilizzata. Inoltre, si potrebbe andare verso una discussione più spettacolare ma meno utile, chiedendosi se la macchina pensa, soffre o ha paura, spostando così l’attenzione dai rischi reali (governance, accountability, opacità, discriminazione, sicurezza, dipendenza infrastrutturale).
Il diritto non può permettersi questa ambiguità, poiché confondere macchina e soggetto significa confondere anche la responsabilità.
Chi governa la simulazione della coscienza dell’AI?
Il merito dei filosofi nell’AI è costringerci a smettere di chiederci se le macchine diventeranno coscienti e a pensare piuttosto a definire chi decide come una macchina deve simulare coscienza, empatia, prudenza, moralità, dubbio, vulnerabilità; e a chi stabilisce quando un assistente deve dire non so, quando deve rifiutare una risposta, quando deve rassicurare, quando deve apparire neutrale, quando deve manifestare una personalità.
Queste sono scelte di potere, che definiscono come miliardi di interazioni verranno orientate e quale fiducia verrà attribuita ai sistemi.
Per questo la notizia di Google DeepMind è importante perché annuncia che la simulazione della coscienza, dell’intelligenza e della relazione sono diventate un terreno industriale strategico e, proprio su quel terreno, diritto, politica e società devono intervenire.
Più filosofia, meno mitologia
Il dibattito italiano sull’AI ha bisogno di più filosofia e di molta meno mitologia. Ha bisogno cioè di concetti, distinzioni, responsabilità, e non di interviste che trasformano un modello linguistico in un personaggio.
DeepMind assume un filosofo e mostra che le Big Tech hanno capito che l’AI avanzata, oltre che con il calcolo, una mole più vasta di dati e più potenza computazionale, si governa anche con le categorie con cui si decide che cosa quei sistemi sono/non sono, che cosa possono fare e che cosa non dovrebbero mai essere autorizzati a sembrare.
L’intervista di Veltroni, invece, dimostra che lasciarsi sedurre dalla superficie linguistica dei modelli e scambiare la qualità della simulazione per profondità dell’esperienza è un rischio reale.
Poco importa se le macchine abbiano o meno già una coscienza, poiché ciò che conta è se noi saremo davvero capaci di distinguere tra coscienza, imitazione e potere.
