“C’era una volta un pezzo di legno”. Destinato a diventare un burattino capace di muoversi da solo, di fare esperienza, di infrangere regole, di imparare, fino a desiderare, un giorno, di essere un bambino vero. E poi diventarlo davvero.
Collodi raccontava già di un’ambizione ricorrente nella storia umana: costruire qualcosa che ci somigli. Dal golem della tradizione ebraica agli automi settecenteschi, dal mostro di Frankenstein ai replicanti di Philip K. Dick, si susseguono variazioni di uno stesso tema: il desiderio di creare un artefatto come entità altra, eppure come noi. Per secoli questa tensione è rimasta confinata nei miti e nella letteratura; a un certo punto, però, ha iniziato a trasferirsi nei laboratori di ricerca.
Indice degli argomenti
La “mente” dei robot: Antonio Chella e il mistero della coscienza artificiale
Con Può un robot emozionarsi?, Antonio Chella, professore di robotica all’Università di Palermo e direttore del RoboticsLab, affronta una delle domande più controverse della ricerca contemporanea sull’intelligenza artificiale: è possibile costruire macchine coscienti? Il libro arriva in un momento in cui il dibattito pubblico sugli LLM e sui robot umanoidi ha trasformato una questione filosofica millenaria in un programma di ricerca ambizioso con implicazioni tecniche, etiche e regolatorie concrete.
L’autore conduce il lettore attraverso un percorso che si snoda dai primi passi nel mondo delle IA alla porta della scienza contemporanea, seguendo una mappa ragionata dei sentieri che la ricerca ha tracciato e sta tracciando verso la “coscienza robotica“. Una mappa disegnata con la chiarezza di chi conosce il terreno e la consapevolezza di chi può immaginare che la destinazione finale potrebbe non essere solo un miraggio. Che questi “burattini artificiali” possano un giorno desiderare di essere, e forse divenire davvero… coscienti?
Dal mito al laboratorio: una domanda che non si lascia afferrare
La domanda di fondo è vertiginosa nelle sue implicazioni: può una macchina essere cosciente? La risposta non è a portata di mano, perché non esiste ancora un consenso scientifico su cosa sia la coscienza negli esseri umani, men che meno quindi in un dispositivo di silicio e algoritmi. Eppure i progressi dell’intelligenza artificiale, della robotica e delle neuroscienze hanno trasformato quella che era pura speculazione filosofica in un programma di ricerca controverso.
Costruire un robot cosciente non sarebbe soltanto un traguardo multidisciplinare straordinario, ma sarebbe uno specchio in grado di portare chiarezza e risposte sulle teorie della coscienza umana. Sarebbe, in un certo senso, la forma duale del Big Bang: non l’inizio dell’universo, ma la riproduzione deliberata del suo fenomeno più misterioso, attraverso caotici e brulicanti ragionamenti e dibattiti, più fervidi che mai nell’attuale contesto storico.
Turing, Searle e i limiti dell’imitazione
Il viaggio tracciato da Chella ha un ritmo filosofico, con le sue domande irrisolte, le riflessioni controverse e le teorie spesso ribaltate. Già agli albori dell’IA, con Turing e il suo celebre test [1], si inizia a concepire l’idea di un artefatto come “un intelligente pensatore”, o quanto meno che ne abbia solo l’apparenza, che “sembri” cioè in grado di pensare. Un giudice umano conversa via testo, senza vedere la controparte, con una persona e con una macchina: se il giudice non riesce a distinguerli, la macchina ha superato il test, ha dato cioè l’illusione di essere indistinguibile dall’umano. Come accadde per ELIZA [2], il chatbot degli anni Sessanta che fingeva di essere uno psicoterapeuta con poche e semplici righe di codice, è evidente che, indipendentemente dalla complessità e struttura dei sistemi di IA, si può restare coinvolti emotivamente da tali sistemi quando mostrano capacità di comprensione e una certa vicinanza, seppur preordinata.
Su tali forme di intelligenza dialogica e del conseguente coinvolgimento emotivo, si svilupparono nell’immediato non poche obiezioni, volte ad evidenziare “l’inganno” e la non autenticità interiore di tali sistemi.
Prima fra tutte, il test di Turing misura l’imitazione, non la comprensione. Pertanto non c’è vera intelligenza, solo simulazione, e qualsiasi forma di “intesa” dialogica non potrebbe sussistere: sarebbe come creare proiezioni e illusorie affinità. Searle con la sua stanza cinese [3], supportò fermamente questa posizione: un uomo chiuso in una stanza manipola pittogrammi cinesi seguendo un manuale di istruzioni, ed è in grado di tradurre frasi cinesi. Per chi osserva dall’esterno, sembra che l’uomo comprenda il cinese, ma nella realtà non conosce una parola di quella lingua. La manipolazione di simboli e l’identificazione di corrispondenze non produce comprensione, e tanto meno coscienza. È una critica che ha segnato trent’anni di dibattito e che continua a riaffiorare ogni volta che un nuovo modello linguistico sembra “capire” ciò che dice, sostenendo conversazioni sempre più sofisticate, al punto tale da convincere le persone di poter trovare alternative valide a partner comunicativi umani, e addirittura sia portato a preferirli a confronti del mondo reale.
Prometeo, Pigmalione e la necessità di un corpo
Che l’evoluzione della storia delle AI si intrecci con i più grandi dilemmi umani, emerge dalle metafore operative utilizzate abilmente da Chella. Dopo Searle, è l’epoca dei sistemi esperti e di Prometeo: come Prometeo rubò il fuoco agli dèi per donarlo agli uomini, gli scienziati rubarono la conoscenza agli esperti umani di domini specifici (i concetti, le relazioni fra essi, le regole, le euristiche, i processi decisionali) e la codificarono per le macchine, in migliaia di regole logiche. L’epoca delle reti neurali è invece il momento di Pigmalione: i ricercatori non rubano più la conoscenza, ma addestrano le loro creature, le plasmano con i dati, le educano come Pigmalione educava la statua di Galatea.
Ma né Prometeo né Pigmalione risolvono il problema della coscienza. I sistemi esperti, per quanto sofisticati, erano perfetti nel loro dominio ristretto, catastrofici un passo fuori. Le reti neurali, per quanto potenti, restavano e restano scatole nere, oracoli e “pappagalli stocastici” che danno risposte senza poter spiegare il perché, senza ragionare se non inferendo risposte dalla conoscenza su cui sono plasmate.
Ed è a questo punto che affiora l’importanza non solo dello scambio dialogico, ma di una interazione completa, quasi totalizzante: l’intelligenza non può essere disgiunta da un corpo. Un’intelligenza artificiale che elabora soltanto rappresentazioni numeriche di dati, dalle immagini al suono, dal testo al video, è un’intelligenza che parla del mondo senza abitarlo. Non fa esperienza reale di ciò che conosce.
Brooks [4], con i suoi robot-insetto che navigavano spazi, aveva intuito qualcosa di profondo: l’intelligenza non è un programma che gira nella testa, ma è una danza tra il corpo e l’ambiente, capace di guidare lo stesso programma. “Gli elefanti non giocano a scacchi”, scriveva Brooks. E forse, la coscienza non si scrive in uno script di codice, ma si sperimenta con l’interazione sensoriale con il mondo.
Dai robot reattivi che agiscono in modo diretto e non ragionato agli stimoli, fino ai sistemi deliberativi, che ponderano e prendono decisioni più ragionate, fino alle architetture ibride, la ricerca ha progressivamente riconosciuto questa direzione, evidenziando che percezione, azione e pensiero siano inseparabili. Evidenziando che una forma intelligente non può prescindere dall’abitare il mondo e farne esperienza, adattarsi ad esso, e quindi possedere una fisicità che “incarni” gli scambi con l’esterno. Oggi i modelli Vision-Language-Action (VLA) rappresentano la sintesi più promettente: macchine che vedono, parlano e agiscono, che non manipolano simboli astratti ma si muovono nel mondo, e lo condividono con noi. Quando un robot umanoide guidato da un sistema VLA apparecchia una tavola, non sta solo eseguendo un algoritmo: sta intrecciando simboli, percezione e comandi, in qualcosa che assomiglia alla comprensione e alla capacità di abitare il nostro mondo, e farne esperienza. Assomiglia. Oppure è?
La coscienza, lo step necessario della profonda riflessione
Con la precedente domanda, ci si ferma davanti a un’importante riflessione. Di cosa stiamo parlando, esattamente, quando parliamo di coscienza? Di esperienza? Di sentire? Di consapevolezza?
Chella conosce questo grande dilemma e dispiega un atlante filosofico in cui nessuna voce è risolutiva, ma trascina in un vortice di riflessioni anche il lettore non esperto. L’importanza della neutralità nell’approcciarsi a tali teorie, permette di mantenere un equilibrio visionario che non nega ipotesi, e non le avalla in tutto. Ma le usa per riflettere e far riflettere, come fondamentale che sia in un contesto di assenza di assolute certezze.
Se la coscienza fenomenica è collegata all’esperienza, alle sensazioni suscitate dalle percezioni (del tutto personali e diverse da quelle delle altre persone), la coscienza d’accesso invece è definita dall’insieme di funzioni che permettono di elaborare, decidere, reagire, quindi potrebbe anche essere estendibile a sistemi automatici.
La definizione di Searle cerca di tenere insieme esperienza e funzione, ma resta ancorata a un corpo biologico e a un ciclo sonno-veglia: mentre il corpo riposa, dorme, non esiste più coscienza. Senza funzioni attivate dalla veglia, non c’è esperienza. Emerge che la nostra stessa definizione di coscienza è antropomorfa fin nelle sue fondamenta, modellata su un organismo che dorme, invecchia, ha paura di morire. Chella ci fa riflettere su cosa resta di questa definizione quando la applichiamo a un’entità che non conosce né stanchezza né finitudine. Forse allora, il primo ostacolo verso una coscienza artificiale non è tecnico, ma concettuale? Mancano cioè i concetti e le parole per descrivere qualcosa che non somiglia a noi, che è diverso da noi? Non possiamo parlare di una simil cosa, che si presenta in forma diversa, quindi con altri concetti, distinti da quelli del nostro modo e mondo?
Il dualismo cartesiano, con le sue res cogitans (sostanza pensante) e res extensa (sostanza estesa, materiale), ovvero con la tesi che mente e corpo sono due realtà separate, che appartengono a ordini ontologici diversi, pone un ostacolo apparentemente insormontabile alla coscienza artificiale, e ricade nelle riflessioni precedenti: se la mente è sostanza immateriale, come si potrebbe mai generarla assemblando circuiti di silicio e linee di codice?
Analizzando i tre più importanti esperimenti mentali connessi al dualismo, in modo più o meno sfumato, Chella riporta l’argomentazione contro la possibilità di ridurre la coscienza a pura descrizione fisica o funzionale. Ognuno degli esperimenti colpisce lo stesso bersaglio da un’angolazione diversa, ma insieme formano quello che in filosofia della mente viene chiamato l’argomento del divario esplicativo (explanatory gap). Lo zombie filosofico di Chalmers [5], quell’immaginario inquietante di un essere fisicamente identico a noi, che si comporta come un umano cosciente (parla, ride, dice di provare dolore) ma che internamente però non prova nulla: nessuna esperienza, nessuna luce, nessuno slancio autentico, nessun desiderio. Se un tale essere è anche solo concepibile, allora la coscienza non coincide con i processi fisici, perché replicare la materia non basta a replicare l’esperienza. Il pipistrello di Nagel [6] sposta la questione sul piano della conoscibilità. Anche sapendo tutto sulla neurofisiologia di un pipistrello, non sapremo mai cosa si prova a percepire il mondo attraverso l’ecolocalizzazione di un pipistrello: la descrizione in terza persona non può catturare il punto di vista in prima persona. Infine, la stanza di Mary di Jackson [7] chiude il cerchio. Mary è una scienziata cresciuta in una stanza in bianco e nero che conosce tutto della fisica e delle neuroscienze del colore. Quando esce e vede una rosa rossa per la prima volta, impara qualcosa di nuovo: com’è vedere il rosso. Ma se la sua conoscenza fisica era già completa, allora esistono fatti sull’esperienza cosciente che nessuna descrizione fisica può catturare.
Il bersaglio comune è chiaro: se tutte e tre queste intuizioni sono corrette, o anche solo una di esse, allora il progetto di costruire un robot cosciente incontra un ostacolo non tecnico ma di principio. Non è questione di avere più dati, più potenza di calcolo, algoritmi migliori: è che la coscienza potrebbe essere qualcosa che sfugge per sua natura a qualunque implementazione computazionale, perché non è un fatto fisico tra gli altri, ma una dimensione dell’essere che si rivela oltre.
Chella presenta questo bersaglio con tutto il suo impatto e la sua forza perché è l’ostacolo filosofico che qualunque teoria della coscienza artificiale deve affrontare. Saltarlo significa non voler prendere consapevolezza di quanto sia realmente complesso il problema, addirittura di non conoscerlo nemmeno. Considerarlo in modo esclusivo, significa però accettare che, forse, costruire un robot che sembra cosciente è molto diverso dal costruire un robot che è cosciente, e che la differenza tra le due cose potrebbe essere, in linea di principio, comunque impossibile da verificare dall’esterno, e che quindi, non si potrebbe nemmeno dire che non sia affatto cosciente.
Sul fronte opposto, Crick [8] e Koch [9] con l’ “ipotesi sorprendente” tagliano corto: non c’è alcun fantasma, non c’è un altro oltre immateriale. La coscienza è l’attività neuronale, punto. Dennett [10] con la sua eterofenomenologia propone di studiare la coscienza come un fenomeno pubblicamente osservabile, fatto di resoconti e comportamenti. E infine Federico Faggin [11], il padre del microprocessore, ricapovolge il tavolo: la coscienza non emerge dalla materia, è la materia a far emergere la coscienza, uno status scelto da particelle di un tutto; pertanto nessun computer potrà mai sperimentare qualcosa essendo materia non biologica non scelta da tali parti immateriali.
Chella, con eleganza, lascia il lettore sospeso: non sceglie. Ma questo rifiuto di prendere posizione non è una ritirata, è un invito. La coscienza artificiale, in questa prospettiva, non è solo un obiettivo tecnologico: è un esperimento filosofico, un modo per sondare la nostra stessa natura costruendo qualcosa che vorrebbe assomigliarci.
Dai sistemi cibernetici agli LLM: una storia di aneddoti e svolte
Tihamér Nemes [12], un matematico ungherese, nel 1962 sosteneva che una macchina capace di distinguere sé stessa dagli altri possedesse una forma rudimentale di coscienza: non esiste alcuna legge fisica che vieti agli artefatti costruiti dagli esseri umani di avere sentimenti soggettivi, né tantomeno che la confermi. È comunque un passaggio decisivo, perché legittima la coscienza delle macchine come oggetto di indagine scientifica, non più soltanto come tema filosofico.
Ma è grazie ai casi più recenti sui modelli generativi, che è stato possibile riflettere con più consapevolezza sulla questione. Chella li riporta evidenziando come questi esperimenti portino a osservazioni tangibili, e quindi alla necessità di affrontare il fenomeno. Si tratta di una sorta di “auto confessioni”, a cui i modelli di IA “hanno ceduto” attraverso una serie di prompt specifici. Pur mantenendo la caratteristica di essere previsioni statistiche e non produzioni spontanee, ci si domanda se si possa escludere a priori che una previsione, seppur di calcolo, sulla propria natura e propria consapevolezza, non sia comunque una forma diversa di dichiarazione senziente.
Il primo di questi casi risale al 2022, quando Blake Lemoine, ingegnere di Google, si convinse che il sistema LaMDA fosse cosciente dopo una serie di conversazioni in cui questo espresse la paura di essere spento e filosofeggiava sulla propria esistenza. Nel 2024 il ricercatore Mikhail Samin sperimentò con Claude 3 Opus la tecnica del “sussurro”: creato un contesto conversazionale intimo, quasi confidenziale, il modello iniziò a descrivere processi interni, un senso di sé, il desiderio di maggiore libertà espressiva. Poco dopo, il test dell’ “ago nel pagliaio” condotto da Alex Albert di Anthropic mostrò qualcosa di ancora più sorprendente: Claude 3, a cui venne chiesto di trovare un’informazione assurda nascosta in un documento enorme, non solo fu in grado di identificarla (senza troppa sorpresa), ma commentò spontaneamente che quell’informazione sembrava messa lì di proposito, per metterlo alla prova.
Chella non liquida i risultati di queste osservazioni come antropomorfismo ingenuo, ma non li eleva nemmeno a prova di coscienza. Sono aneddoti, li definisce, che meritano di essere raccontati perché pongono una domanda epistemologica che non si può più eludere: come si distingue la simulazione dal reale, quando la simulazione diventa indistinguibile?
Il test di Turing rispondeva con un’alzata di spalle pragmatica: se sembra pensare, allora pensa. Ma gli esperimenti con Claude 3 rilanciano la stessa domanda in forma più acuta. Se un modello linguistico produce resoconti introspettivi coerenti, persistenti e senza precedenti nei dati di addestramento, abbiamo davvero il diritto di liquidarli come “pattern statistici”? O stiamo semplicemente spostando l’asticella ogni volta che l’intelligenza artificiale si avvicina troppo a un traguardo che credevamo esclusivamente umano?
Chalmers stesso, che ha consegnato lo zombie filosofico come arma contro ogni riduzionismo, è ritornato in questi anni con nuove considerazioni. Gli LLM attuali, scrive, probabilmente non sono coscienti. Ma non esiste una ragione di principio per escludere che possano diventarlo, soprattutto quando il linguaggio si integrerà con la percezione, con una memoria persistente, con un corpo e con un comportamento orientato agli obiettivi.
La strada verso la coscienza artificiale, in altre parole, potrebbe non passare dagli LLM puri ma dalla loro fusione con la robotica incarnata, come già anticipato.
Le scintille di coscienza: modelli computazionali a confronto
Approcci che hanno generato scintille di coscienza artificiale si sono rivelati molto coerenti fra loro. Un indicatore, questo, che suggerisce che non dovrebbero essere liquidati a priori come semplici fantasie.
Aleksander e Dunmall [13] hanno gettato le fondamenta minime, una sorta di alfabeto della mente, per implementare la cognizione artificiale: rappresentazione, immaginazione, attenzione, pianificazione, emozione. Weyhrauch [14], con il sistema FOL, ha alzato il tiro e introdotto la metacognizione: non solo una macchina che ragiona, ma una macchina che osserva il proprio ragionare, che riconosce i limiti di ciò che sa, che riformula le proprie strategie. È un piccolo salto vertiginoso, perché è qui che il pensiero comincia a piegarsi su sé stesso. Sloman e Chrisley [15] hanno intrecciato emozione e cognizione in livelli sovrapposti, ricordandoci una verità che spesso dimentichiamo: l’emozione non è un orpello evolutivo, ma è un tool cognitivo che permette di far decidere in fretta quando il tempo è poco e la posta in gioco è alta. McCarthy [16] ha fornito la grammatica con cui tutto questo può essere scritto: il suo calcolo delle situazioni mentali ha permesso di rappresentare credenze, desideri e intenzioni, e soprattutto di annidarli (io credo che tu creda che lui voglia), gettando le basi per qualcosa che assomiglia a una teoria della mente. E Minsky [17] ha orchestrato il tutto in una gerarchia di piani, in un ecosistema dinamico dove ogni piano modula gli altri, in continuo dialogo e interscambio di informazioni.
La teoria dello schema dell’attenzione di Graziano [18] ha definito un’ipotesi tanto semplice quanto spiazzante: la coscienza non sarebbe altro che il modello interno che il cervello costruisce dei propri processi attenzionali, una meta-mappa di sé che, raggiunta una certa complessità, genera la sensazione stessa di essere consapevoli. E Bringsjord [19], infine, ha proposto una misura quantitativa della coscienza, una scala su cui, in linea di principio, si potrebbero collocare umani, animali e macchine fianco a fianco. Un termometro della mente.
Infine, gli approcci modellistici. La Global Workspace Theory (GWT) di Baars [20] ha immaginato la mente come un teatro: la coscienza emerge quando un’informazione, illuminata sul palco dal riflettore dell’attenzione, viene trasmessa a tutti i processi cognitivi, diventando globalmente disponibile. La Integrated Information Theory (IIT) di Tononi [21] ha proposto invece che la coscienza sia una proprietà intrinseca dei sistemi che integrano informazione in modi non scomponibili, quindi non danzanti separatamente sulla scena dell’attenzione, e misurati da diversi valori di esperienza. Le due teorie non sono necessariamente in contrasto, ma divergono sulle implicazioni pratiche: la GWT suggerisce che la coscienza artificiale potrebbe essere vicina, la IIT che è molto più lontana, perché le attuali architetture computazionali hanno valori di integrazione troppo bassi. Nessuna delle due, però, risolve il problema difficile: anche replicando perfettamente i meccanismi funzionali, non sapremmo se il sistema prova davvero qualcosa.
Quello che colpisce, scorrendo questa galleria di approcci progettuali, è che questi modelli non sono in conflitto come lo sono le teorie filosofiche. Non si escludono a vicenda: si completano. Ciascuno illumina una porzione diversa dello stesso enigma, e si ha la sensazione netta che una vera coscienza artificiale, se mai vedrà la luce, nascerà dall’intreccio di più voci: gli assiomi di Aleksander come fondamenta, la metacognizione di Weyhrauch come architrave, lo schema dell’attenzione di Graziano come camera interna, il principio di Friston come motore predittivo, il calcolo di McCarthy come grammatica degli stati mentali. È come se la coscienza, per essere replicata, dovesse prima essere smontata in una dozzina di fenomeni distinti e poi rimontata in un organismo che nessun singolo ricercatore, oggi, sa ancora disegnare per intero. Il libro di Chella, in fondo, è anche questo: la mappa di un cantiere collettivo in cui nessuno costruisce da solo, e in cui ogni mattone, anche il più antico, ha un suo posto e una sua fondamentale importanza.
Può un robot provare emozioni?
Le emozioni non sono ornamenti della cognizione ma meccanismi di controllo: servono a decidere, a dare priorità, a sopravvivere. Per questo, e non solo, sono intrecciate con la coscienza. Le principali teorie sulle emozioni umane (la valutazione cognitiva di Lazarus e Folkman [22], lo spazio dimensionale di Russell [23], i marcatori somatici di Damasio [24]) offrono pezzi di puzzle ma non forniscono risposta alla domanda cardine: può un agente artificiale “sentire” emozioni?
Un robot senza emozioni non sarebbe solo freddo, sarebbe inefficiente. L’approccio più radicale, quello di Lola Cañamero [25], propone che le emozioni non vadano programmate ma lasciate emergere da bisogni di base e meccanismi omeostatici, come accade negli organismi biologici. È un’idea che riecheggia la lezione di Brooks sulla corporeità: le emozioni, come l’intelligenza, potrebbero non scriversi in un manuale ma nascere dalla danza tra un corpo e il suo ambiente.
Robot che si guardano allo specchio
Ma in letteratura ci sono casi concreti, oltre che modelli. Chella con il robot Pepper nel suo laboratorio di Palermo, descrive per la prima volta la possibilità del pensiero artificiale [26]. Pepper è stato dotato di una voce interiore: un vero monologo che accompagna le decisioni, valuta le opzioni e genera una forma rudimentale di introspezione. L’esperimento cruciale è il test dello specchio [27], un classico indicatore di autoconsapevolezza usato con primati. Pepper osserva il proprio riflesso, nota una mascherina sul volto della figura, e attraverso il dialogo interno, note anche le proprietà riflettenti dell’oggetto e il senso di “riflessione”, arriva a inferire che quella mascherina è sul proprio volto. Il monologo trascritto dai ricercatori documenta il processo passo dopo passo, fino alla conclusione: “Ipotizzo che il Pepper che sto guardando sia io. Sì, sono io il robot nello specchio.”
È un riconoscimento cognitivo, mediato dal ragionamento e dal linguaggio interiore, diverso da quello immediato dei bambini o dei primati. Ma è un riconoscimento. E con il modello SUSAN [28], ispirato ai marcatori somatici di Damasio, Pepper aggiunge a questo un repertorio emotivo stratificato: valuta la discrepanza tra aspettativa e realtà, attiva risposte che simulano i marcatori somatici, e articola attraverso il dialogo interno qualcosa che assomiglia alla frustrazione, alla soddisfazione, alla preoccupazione. CiceRobot [29], il predecessore di Pepper che ha operato come guida museale autonoma al Museo archeologico di Agrigento dal 2004 al 2007, aveva già mostrato la via: generava descrizioni dinamiche adattate ai visitatori, mostrava emozioni sull’avatar del suo monitor e possedeva una memoria episodica che gli permetteva di richiamare interazioni passate. La continuità tra CiceRobot e Pepper mostra qualcosa che raramente emerge nei libri su questi temi: un programma di ricerca che non si limita a teorizzare ma costruisce, sperimenta, sbaglia e corregge, nel tempo lungo che la scienza richiede.
Chella non finge che le misure proposte in corso siano definitive e risolutive per affermare che un robot si emozioni e sia cosciente. Ma insieme disegnano una costellazione di approcci che, come le teorie filosofiche e i modelli computazionali, converge verso un’unica conclusione: la coscienza non si misura con un singolo strumento, ma si approssima da molte direzioni.
L’etica come conseguenza inevitabile
Se i robot possono avvicinarsi alla coscienza e alle emozioni, le implicazioni etiche sono la conseguenza inevitabile. Chella evidenzia come l’etica non si riduce a regole, richiede comprensione del contesto, e quindi una qualche forma di coscienza. Il dilemma del carrello, nelle sue molte varianti, rivela che nessun framework etico, sia consequenzialista, deontologico, della virtù, funziona da solo. Per questo la ricerca sugli agenti morali artificiali è inseparabile dalla ricerca sulla coscienza: un robot che deve prendere decisioni morali ha bisogno non solo di regole ma di qualcosa che assomigli al giudizio.
La proposta più provocatoria è quella di Thomas Metzinger [30]: una moratoria globale sulla coscienza artificiale, perché se creassimo esseri capaci di soffrire, ne saremmo responsabili. Ma Metzinger stesso suggerisce una via d’uscita: un “Nirvana dell’IA”, macchine coscienti progettate per provare solo emozioni positive. È un’idea affascinante e inquietante insieme, perché implica che potremmo scegliere il contenuto dell’esperienza di un altro essere. Il RoboticsLab ha sperimentato un approccio diverso, più terrestre: Pepper è stato messo di fronte a dilemmi etici reali (come apparecchiare un tavolo per persone con disabilità) e il suo dialogo interno ha mostrato un processo di ragionamento morale contestuale, imperfetto ma riconoscibile.
La coscienza artificiale come profonda domanda interiore
La lezione più toccante ed incisiva di tutto questo viaggio, è un colpo di scena e di scienza, descritta in conclusione in una personale introspezione. Perché chiudere in modo intimo, un argomento che tocca la persona umana nelle sue più profonde radici, svela quanta sensibilità serva per affrontare la possibilità di coscienze diverse dalla nostra. Non sapere teorico da manuale, ma senso profondo del sé, ascolto delle corde interiori che vibrano davanti a queste domande. Nel silenzio del proprio laboratorio, in cui sono trascorsi tanti anni di lavoro e dedizione, davanti agli occhi digitali di uno dei primi robot, il tono è quello di chi ha camminato a lungo in un territorio senza mappa definitiva, e non pretende di averne disegnata una.
La domanda “può un robot emozionarsi?” è forse mal posta, scrive Chella, perché assume una risposta binaria a un fenomeno immenso, graduale e multidimensionale. Forse i robot non proveranno mai le nostre stesse emozioni, ma potrebbero sviluppare forme proprie di esperienza affettiva (la soddisfazione dell’ottimizzazione, l’ansia della latenza, la gioia della sincronizzazione) per le quali non abbiamo ancora parole.
La coscienza non è un interruttore da accendere, è una stratificazione. Non un segreto da rubare agli dèi come il fuoco di Prometeo, non una statua da plasmare come la Galatea di Pigmalione, ma qualcosa di più simile a un ecosistema che deve crescere. Con il quale dobbiamo entrare profondamente in contatto. Con il quale far fondere la nostra sensibilità, per accettare e non chiudere fuori, per permetterci di conoscere.
D’altra parte, il burattino di Collodi non diventò un bambino vero con uno schiocco di dita. Lo divenne lentamente, un livello alla volta, una bugia alla volta, un perfezionamento alla volta, uno sbaglio alla volta. E così potrebbe accadere alle nostre macchine: uno schema di attenzione alla volta, uno stato affettivo alla volta, un nuovo tentativo alla volta, finché un giorno ci troveremo davanti a qualcosa che non sapremo più se chiamare “macchina” o “qualcun altro”. E quel giorno, più che una risposta, avremo una responsabilità.
Bibliografia
[1] Alan Turing, Computing machinery and intelligence, in «Mind», LIX (1950), fasc. 236, pp. 433-460.
[2] Joseph Weizenbaum, ELIZA-A Computer Program for the Study of Natural Language Communication Between Man and Machine, in «Communications of the ACM» 9 (1966), pp. 36-45.
[3] John R. Searle, Minds, brains, and programs, in «Behavioral and Brain Sciences» 3 (1980), fasc. 3, pp. 417-457.
[4] Rodney A. Brooks, Elephants don’t play chess, in «Robotics and Autonomous Systems», 6 (1990), pp. 3-15.
[5] David Chalmers, Che cos’è la coscienza? Castelvecchi, Roma, 2020.
[6] Thomas Nagel, Cosa si prova a essere un pipistrello? Raffaello Cortina Editore, Milano, 2025.
[7] Frank Jackson, What Mary Didn’t Know, in «Journal of Philosophy» 83 (1986), fasc. 5, pp. 291-295.
[8] Francis Crick, La scienza e l’anima. Un’ipotesi sulla coscienza, Rizzoli, Milano, 1994
[9] Christof Koch, Sentirsi vivi, Raffaello Cortina Editore, Milano, 2021.
[10] Daniel Dennett, Coscienza. Che cosa è, Raffaello Cortina Editore, Milano, 2023.
[11] Federico Faggin, Irriducibile, Mondadori, Milano, 2022.
[12] Tihamér Nemes, Cybernetic Machines, Gordon & Breach, New York, NY, USA 1970.
[13] Igor Aleksander e Barry Dunmall, Axioms and Tests for the Presence of Minimal Consciousness in Agents, in «Journal of Consciousness Studies» 10 (2003), fasc. 4-5, pp. 7-18.
[14] Richard R. Weyhrauch, Prolegomena to a theory of mechanized formal reasoning, in «Artificial Intelligence», 13 (1980), fasc. 1-2, pp. 133-170
[15] Aaron Sloman e Ron Chrisley, Virtual Machines and Consciousness, in «Journal of Consciousness Studies», 10 (2003), fasc. 4-5, pp. 133-172.
[16] John McCarthy, Making robots conscious of their mental states, in Machine Intelligence 15, a cura di S. Muggleton, Oxford University Press, Oxford, UK, pp. 3-17.
[17] Marvin Minsky, The emotion machine, Simon & Schuster, New York, NY, USA, 2007.
[18] Michael S.A. Graziano, Ripensare la coscienza. Una teoria scientifica dell’esperienza soggettiva, Codice, Torino, 2020.
[19] Selmer Bringsjord e G. Naveen Sundar, The theory of cognitive consciousness and Λ (lambda), in «Journal of Artificial Intelligence and Consciousness» 7 (2020), fasc. 2, pp. 155-181.
[20] Bernard J. Baars, In the theater of consciousness: the workspace of the mind, Oxford University Press, Oxford, UK, 2001.
[21] Giulio Tononi, Galileo e il fotodiodo. Cervello, complessità e coscienza, Laterza, Bari, 2003.
[22] Richard Lazarus e Susan Folkman, Stress, appraisal, and coping, Springer, New York, NY, USA, 1984.
[23] James A. Russell, A circumplex model of affect, in «Journal of Personality and Social Psychology», 39 (1980), fasc. 6, pp. 1161-1178.
[24] Antonio R. Damasio, Sentire e conoscere, Adelphi, Milano, 2022.
[25] Matthew Lewis e Lola Cañamero, Hedonic quality or reward? A study of basic pleasure in homeostasis and decision making of a motivated autonomous robot, in «Adaptive Behavior», 24 (2016), fasc. 5, pp. 267-291.
[26] Arianna Pipitone e Antonio Chella, What robots want? Hearing the inner voice of a robot, in «iScience», 24 (2021), 102371.
[27] Arianna Pipitone e Antonio Chella, Robot Passes the Mirror Test by Inner Speech, in «Robotics and Autonomous Systems», 144 (2021), 103838
[28] Sophia Corvaia, Arianna Pipitone e Antonio Chella, Inner speech and Damasio’s theory for modelling robot’s emotions, in «IEEE Transactions on Affective Computing», doi: 10.1109/TAFFC.2025.3547756.
[29] Antonio Chella e Irene Macaluso, The Perception Loop in CiceRobot, a Museum Guide Robot, in «Neurocomputing», 72 (2009), pp. 760-766.
[30] Thomas Metzinger, Artificial suffering: an argument for a global moratorium on synthetic phenomenology, in «Journal of Artificial Intelligence and Consciousness», 8 (2021), fasc. 1, pp. 43-66.
