Una delle motivazioni originarie dell’intelligenza artificiale (IA) è il desiderio di creare delle macchine che pensano e che siano in grado di agire come noi stessi nel maggior numero di ambiti possibile.
In altri termini, fin dal suo inizio l’IA ha tentato di riprodurre nelle macchine le capacità mentali dell’uomo. Oggi la coscienza rappresenta l’oggetto più ambito di tale ambizione. Accanto alle questioni tecniche e teoriche sollevate dal tentativo di sviluppare una coscienza artificiale, emergono anche interrogativi di ordine etico sui quali è nostra responsabilità riflettere.
Di seguito, alcune riflessioni etiche sulla coscienza artificiale, concentrandomi a m di esempio su due questioni particolari: perché dovremmo investire nella direzione di una coscienza artificiale? Quali sono le conseguenze etiche di una visione funzionalistica della coscienza, ossia della sua riduzione all’esecuzione di determinate funzioni che prescindono dalla natura della struttura nella quale sono implementate?
Indice degli argomenti
L’etica dell’intelligenza artificiale
La discussione etica sull’intelligenza artificiale (IA), ossia in merito a quale sia il modo migliore di svilupparla e a come massimizzarne gli effetti positivi sulla società, ha conosciuto uno sviluppo notevole negli ultimi anni (Farisco, Evers, and Salles 2020). Una delle ragioni di questo crescente interesse per le questioni etiche è l’accelerazione dei progressi dell’IA, soprattutto dei sistemi cosiddetti connessionisti, ossia fondati sull’apprendimento automatico (in inglese, machine learning) e sulle reti neurali artificiali, come i grandi modelli linguistici. Ovviamente le posizioni in merito sono variegate, i temi trattati molteplici e le differenze di vedute significative (Coeckelbergh 2020). Tra i temi etici maggiormente discussi troviamo, per esempio, privacy e protezione dei dati personali, trasparenza e spiegabilità dell’IA (vale a dire la possibilità di capire come genera determinati risultati), rischio di pregiudizi e discriminazioni derivanti dal processo di addestramento dell’IA, possibili impatti sociali dell’IA, inclusi quelli politici e ambientali. Anche le posizioni a livello di regolamentazione internazionale sono variegate, con l’Europa che almeno finora si è distinta per un approccio più cauto e attento ai potenziali rischi derivanti dall’IA, come espresso nel recente AI Act, la prima regolamentazione dell’IA ad ampio respiro basata sul concetto di rischio.
Al di là delle diverse posizioni in merito alle questioni etiche sollevate dall’IA, è importante chiarire un metodo per identificarle nel modo più chiaro ed efficace possibile. Per tale ragione ho proposto di distinguere due tipologie di questioni etiche legate all’IA, ossia fondamentali/fondative e pratiche (Farisco et al. 2024). Le questioni etiche fondamentali/fondative sono quelle che riguardano le ragioni che giustificano come moralmente giusto fare ricerca e investire nell’IA, per esempio nella coscienza artificiale. Inoltre, le questioni etiche fondamentali/fondative sono quelle relative all’impatto dell’IA sul modo in cui concepiamo nozioni morali fondamentali, come soggetto morale e libero arbitrio. Le questioni etiche pratiche, invece, sono quelle che riguardano l’impatto dell’IA sulla nostra vita quotidiana, in diversi ambiti e a diversi livelli.
Su queste premesse, è possibile organizzare le questioni etiche fondamentali/fondative in due categorie principali:
- Quelle relative ai fini dell’IA, le quali riguardano questioni come: cosa guida la ricerca sull’IA? Che cosa cerchiamo di ottenere tramite l’IA?
- Quelle relative ai concetti utilizzati nell’ambito dell’IA, le quali includono questioni su assunzioni implicite e preconcetti relativi all’IA, e considerazioni sui contesti storici, culturali e sociali dell’IA.
Le questioni etiche pratiche che emergono dall’IA si possono organizzare nelle seguenti tipologie principali:
- Operazionale: questioni relative a come funziona l’IA
- Strumentale: questioni relative a come utilizziamo l’IA
- Relazionale: questioni relative a come concepiamo l’IA e alla conseguente relazione psicologica che intratteniamo con essa
- Sociale: questioni relative a quali sono i costi e le conseguenze dello sviluppo e dell’utilizzo dell’IA.
Un esempio significativo di questioni etiche fondamentali/fondative è la prospettiva di sviluppare una coscienza artificiale, da alcuni indicata come necessaria per avere dei sistemi artificiali moralmente competenti, ossia in grado di distinguere ciò che è giusto da ciò che è sbagliato (Chella 2023). Alcuni filosofi hanno riflettuto sugli aspetti etici della coscienza artificiale, arrivando a proporre una moratoria per sospendere le relative ricerche al fine di evitare di sviluppare senza volerlo delle forme artificiali di coscienza e causarne delle esperienze di sofferenza (Metzinger 2021).
Lasciando aperta la domanda se e a quali condizioni la prospettiva di una coscienza artificiale sia realistica e fattibile (Evers et al. 2025; Farisco, Evers, and Changeux 2024), per introdurne la rilevanza etica ritengo utile soffermarmi su due questioni particolari: qual è la ragione per cui dobbiamo investire nella ricerca sulla coscienza artificiale? Qual è la portata etica della visione funzionalistica (secondo la quale la coscienza è riducibile a determinate funzioni, a prescindere dalla natura del sistema, che può essere indifferentemente biologico o artificiale), che si tende ad assumere come necessaria per sviluppare una coscienza artificiale?
Perché tentare di sviluppare una coscienza artificiale?
Innanzitutto, perché investire nella direzione di una coscienza artificiale? Quali i possibili benefici per la scienza e per la società in generale? Perché dovremmo provare a replicare l’esperienza soggettiva in sistemi di IA? Che cosa possiamo realisticamente aspettarci da tali tentativi?
È possibile articolare una risposta a tali questioni da diversi punti di vista. A livello conoscitivo è possibile che sviluppare dei sistemi artificiali in grado di riprodurre alcune caratteristiche della nostra esperienza cosciente ci permetta di capire meglio la stessa coscienza biologica, attraverso somiglianze o differenze rispetto a quella artificiale. A livello tecnologico, è possibile che lo sviluppo di una coscienza artificiale sia un momento di svolta per l’A, per esempio fornendole la capacità di “scegliere” in modo intenzionale e di “comprendere” le intenzioni degli altri (una capacità definita “teoria delle mente” in filosofia”, oltre che di anticipare le conseguenze non solo delle decisioni umane, ma anche delle sue stesse “azioni”. A livello sociale ed etico, soprattutto queste capacità (intenzionalità, teoria della mente e prevedere le conseguenze delle azioni) potrebbero aiutare l’IA ad informare meglio gli uomini in merito ai possibili rischi del proprio funzionamento ed utilizzo nella società, e quindi aiutare ad evitare tali pericoli favorendo per contro i possibili benefici. A controbilanciare tali possibili vantaggi di una IA cosciente, come mostrato dalla storia dell’umanità, sia l’intenzionalità sia la teoria della mente possono essere utilizzate per scopi negativi, per esempio, nel caso dell’IA, per favorire i suoi stessi interessi o gli interessi di gruppi limitati che la controllano. Infatti, l’intenzionalità umana non ha sempre favorito individui o specie esterni al gruppo di appartenenza, e neppure il pianeta nella sua totalità. Quest’ultimo punto si connette a una delle questioni maggiormente dibattute nell’etica dell’IA, il cosiddetto problema dell’allineamento: come possiamo essere sicuri che i sistemi di IA siano conformi ai valori umani? Come possiamo allineare l’IA ai nostri stessi interessi? E quali valori e interessi dovremmo assumere come riferimento? Per esempio, la differenza culturale è un fattore importante da tenere in considerazione in queste riflessioni.
Ma c’è un’ulteriore domanda che precede quella dell’allineamento dell’IA con i nostri valori: può l’IA davvero avere dei valori? In altre parole, la capacità di valutare che presiede l’elaborazione di valori è dello stesso tipo nell’IA e negli uomini? E l’IA è in grado di valutare i suoi stessi valori, inclusi i propri valori etici? Questa capacità è un processo riflessivo che guida l’elaborazione auto-critica di valori negli uomini, e che ci rende dei soggetti in grado di valutare le situazioni in cui agiamo. Di fatto, la capacità di valutare (che possiamo tecnicamente definire come la sensibilità ai segnali di reward e la capacità di distinguere nel mondo tra cose buone e cose cattive sulla base di bisogni, motivazioni e fini particolari) è una caratteristica specifica degli organismi biologici, in particolare del cervello. L’IA può essere programmata per distinguere tra ciò che gli uomini considerano buono o cattivo, ed è anche possibile che l’IA sarà sempre meno dipendente dagli uomini nell’applicare questa distinzione. Tuttavia tale capacità non implica che essa “valuti” nel senso di attuare autonomamente una valutazione e sperimentare soggettivamente tale valutazione.
È possibile che un sistema di IA possa simulare in modo più o meno dettagliato la diversità dei processi cognitivi del cervello, per esempio implementare diverse modalità sensorie, e che per contro rimanga incapace di incorporare i valori attribuiti all’informazione elaborata e alla sua rappresentazione, come invece fa il cervello umano. In altre parole, allo stato attuale l`IA rimane priva di ogni contenuto esperienziale, e per questo motivo, ad oggi, l’IA è fondamentalmente diversa dal cervello umano in virtù della propria incapacità di attribuire valore esperienziale all’informazione. Questo è il motivo principale per cui i sistemi di IA attuali sono privi di esperienza soggettiva. In termini di bisogni, i quali sono un prerequisito per la capacità di valutazione del nostro cervello, l’IA attuale appare limitata a quelli conoscitivi, senza aver accesso, per esempio, ai bisogni morali ed estetici.
Pertanto, i valori che l’IA, quantomeno fino ad oggi, è stata in grado di sviluppare si limitano al livello epistemico, mentre la moralità e l’estetica vanno al di là delle attuali capacità tecnologiche. Non nego che superare questo limite possa essere una questione di ulteriore progresso tecnologico piuttosto che una limitazione intrinseca dell’IA, ma per ora dovremmo tenerlo in debito conto nelle nostre riflessioni in merito alla questione se sia saggio tentare di sviluppare dei sistemi di IA coscienti. Se il tipo di coscienza che possiamo realisticamente aspirare ad ingegnerizzare oggi si limita alla dimensione cognitiva, senza alcuna sensibilità alla deliberazione etica e all’apprezzamento estetico, temo che il rischio di utilizzare in modo errato o sfruttare per interessi di parte l’IA cosciente sia molto alto.
Si potrebbe obiettare che un sistema di IA limitato ai valori epistemici non sia realmente cosciente (almeno non in un senso pienamente umano). Tuttavia, rimane il fatto che la sua capacità di interagire con il mondo per realizzare gli obiettivi per cui è stato programmato lo renderebbe molto più potente nel caso possieda questa forma cognitiva di coscienza. Questo accresce la nostra responsabilità di considerare se un’IA cosciente, anche se limitata a forme più rudimentali della coscienza umana, possa avere effetti migliorativi o peggiorativi sulla società.
Sulle implicazioni etiche del funzionalismo
Per funzionalismo si intende un modello teorico per il quale alcune caratteristiche del cervello, come la capacità di processare informazioni in modo cosciente, possono essere riprodotte in modo del tutto simile in sistemi che hanno dei sostrati fisici differenti dal cervello, sia di tipo biologico, sia di tipo artificiale. In filosofia, il funzionalismo si connette ad altre posizioni teoriche (come la cosiddetta tesi della neutralità e la tesi della realizzabilità multipla), per le quali non è necessario replicare tutti i livelli dell’organizzazione neurale nel cervello biologico per sviluppare delle forme artificiali di coscienza. Questa visione è spesso assunta come necessaria per la replicabilità artificiale della coscienza (Butlin et al. 2023), anche se è oggetto di accesi dibattiti, sia in ambito scientifico, sia in ambito filosofico, soprattutto in relazione al ruolo svolto dal corpo biologico per rendere possibile e modulare la coscienza (Edelman 1992; Godfrey-Smith 2023; Cao 2022) (Evers 2024). In aggiunta a queste perplessità di tipo teorico, ci sono anche delle questioni prettamente etiche sollevate dal funzionalismo. Anche in questo caso è possibile distinguere tra questioni etiche fondamentali/fondative e questioni etiche pratiche.
Tra le prime si annovera il rischio che ritenere le funzioni mentali in generale e la coscienza in particolare indipendenti dalla natura della struttura e dipendenti solo dalle sue funzioni conduca ad una visione impoverita e riduttiva dell’identità umana. Come accennato in precedenza, l’esperienza soggettiva umana dipende dalla relazione valutativa che noi intratteniamo con il mondo, ossia dal modo in cui interagiamo con esso e gli assegniamo un valore positivo o negativo. In questo senso, la valutazione è un processo attraverso il quale il soggetto identifica e trae vantaggio dalle opportunità offerte dall’ambiente nel quale vive, che diviene in tal modo il suo Umwelt (ossia una porzione di mondo che offre risorse e opportunità di sopravvivenza). Questo processo è profondamente basato sul corpo, il che caratterizza un soggetto fisico, nello specifico biologico, concreto.
Per contro, una visione funzionalistica della coscienza si espone al rischio di non riconoscere adeguatamente questa dinamica fondata sulla corporeità. Di fatto, un’elaborazione astratta dell’informazione, indipendente da una specifica identità corporea, sarebbe priva di questa necessaria condizione per dare un significato agli stimoli provenienti dal mondo, vale a dire per distinguere tra ciò che è utile al sistema e ciò che gli è indifferente. Per esempio, un individuo affamato è molto più cosciente di possibili opportunità di trovare cibo nel suo ambiente rispetto a un individuo sazio: le condizioni diverse del loro corpo li rendono più propensi ad elaborare in modo cosciente delle tipologie specifiche di informazione, che siano rilevanti per i loro bisogni effettivi.
Questa incapacità del funzionalismo di tenere in debita considerazione la rilevanza della valutazione e dei valori come sopra descritti per l’esperienza soggettiva si collega al rischio di ridurre o ignorare la rilevanza etica dei bisogni concreti e radicati sulla biologia di persone in carne e ossa. In altri termini, una concezione funzionalistica della mente e della coscienza potrebbe ulteriormente enfatizzare la tendenza dualistica somatofobica (ossia la visione del corpo come qualcosa di sporco e cattivo, fondamentalmente diverso e separato da ciò che davvero dà valore all’uomo, ossia la sua mente/anima) che caratterizza molte ideologie e visioni antropologiche occidentali (Vidal 2016). Il risultato sarebbe l’ulteriore riduzione della rilevanza etica dei nostri corpi. In relazione a questo rischio, attribuire troppo facilmente la capacità di coscienza a sistemi non viventi solleva anche ulteriori pericoli. In particolare, in prospettiva potrebbe condurre a sottostimare la gravità delle esperienze negative e il valore delle esperienze positive degli organismi viventi.
Una visione funzionalistica della coscienza corre anche il rischio di ridurla ad un epifenomeno, ossia di negare che la coscienza abbia un reale potere causale sul mondo fisico, riducendo in tal modo il significato morale delle nostre esperienze coscienti, che non possono davvero influenzare in modo efficace le nostre azioni. Questo avrebbe un impatto su nozioni morali come responsabilità e libero arbitrio: se non possiamo fare nulla tramite le nostre scelte coscienti, non siamo davvero responsabili di alcuna conseguenza delle nostre azioni.
Ancora, il fuzionalismo può condurre a una riduzione dell’importanza delle esperienze coscienti umane per il fatto di ridurre ciò che davvero conta alle funzioni, ossia a ciò che possiamo fare, ignorando qualsiasi tipo di valore intrinseco, ossia relativo a ciò che siamo.
In aggiunta a queste e altre possibili questioni etiche fondamentali/fondative, il funzionalismo solleva anche questioni etiche pratiche. Per esempio, attribuire troppo facilmente capacità coscienti alle macchine solo sulla base delle loro funzioni rischia di confondere le persone in merito a ciò che l’IA è realmente in grado di fare. Di fatto, noi tendiamo and antropomorfizzare l’IA, ossia a proiettare su di essa le nostre caratteristiche, e attribuirle capacità di coscienza può ulteriormente enfatizzare questa tendenza, promuovendo una visione non realistica della tecnologia (Salles, Evers, and Farisco 2020).
Tale visione potrebbe a sua volta dare origine a valutazioni eticamente problematiche. Per esempio, se le persone pensano che i sistemi di IA in grado di svolgere compiti in modo molto simile agli uomini siamo per questo coscienti o capaci di diventare coscienti, è possibile che si generino paure sproporzionate in merito al rischio di un’IA cosciente cattiva, oppure speranze sproporzionate per lo sviluppo di un’IA cosciente buona. Il punto è che un’attribuzione ingannevole di capacità coscienti all’IA può confondere le persone, soprattutto se certe assunzioni linguistiche e concettuali non sono adeguatamente spiegate. È possibile, infatti, che taluni termini, come senzienza e benessere, vengano attribuiti all’IA in un significato tecnico ben preciso, non del tutto sovrapponibile a quello usualmente assunto dagli stessi termini nel linguaggio comune.
Se queste differenze non sono evidenziate, come purtroppo spesso accade quando i mezzi di comunicazione non specialistici riportano i risultati delle ricerche scientifiche, si genera confusione. Pertanto, è eticamente raccomandabile cercare di sviluppare una strategia di comunicazione più attenta in merito a concetti, come la coscienza, che se estesi all’IA possono generare disorientamento. L’importanza di una comunicazione equilibrata è ulteriormente enfatizzata dal fatto che diversi attori sociali, non tutti equipaggiati con una conoscenza specialistica, devono collaborare nella valutazione delle questioni etiche, legale e sociali sollevate dall’IA.
Infine, un’attribuzione troppo semplicistica di capacità coscienti alle macchine potrebbe indurre con troppa facilità un senso di fiducia nell’IA da parte degli utilizzatori, i quali potrebbero pensare che i sistemi di IA siano più affidabili di quanto realmente sono perché in grado di operare in modo cosciente. Questo falso senso di fiducia e affidabilità potrebbe a sua volta generare dei rischi eticamente rilevanti nel caso in cui conducesse a utilizzare i sistemi di IA in contesti e per attività che richiedono una più attenta valutazione, come per esempio l’educazione e la cura dei bambini.
Conclusioni
Accanto a questioni di ordine scientifico, tecnologico e teorico, la prospettiva di sviluppare una coscienza artificiale pone anche questioni di ordine etico. Un possibile metodo per una riflessione etica sulla coscienza artificiale è distinguere tra questioni etiche fondamentali o fondative e questioni etiche pratiche. Ho illustrato tale metodo analizzando due temi in particolare: la domanda di base sul perché dovremmo tentare di sviluppare una coscienza artificiale si inscrive nella prima tipologia di questioni etiche, mentre l’approccio funzionalistico alla coscienza, ossia ritenere che essa sia il risultato di determinate funzioni a prescindere dalla natura del sistema cosciente, solleva questioni etiche sia fondamentali/fondative sia pratiche.
In conclusione, è opportuno non dare per scontato che sia eticamente giustificato o finanche vantaggioso tentare di sviluppare una coscienza artificiale, ma neppure escluderlo a priori in nome di una eccessiva cautela pregiudiziale. Piuttosto è necessario un approccio critico, nel senso più filosofico del termine.
Bibliografia
Butlin, P., R. Long, E. Elmoznino, Y. Bengio, J. Birch, A. Constant, G. Deane, S.M. Fleming, C. Frith, X. Ji, R. Kanai, C. Klein, G. Lindsay, M. Michel, L. Mudrik, M.A.K. Peters, E. Schwitzgebel, J. Simon, and R. VanRullen. 2023. Consciousness in Artificial Intelligence: Insights from the Science of Consciousness.
Cao, Rosa. 2022. “Multiple realizability and the spirit of functionalism.” Synthese 200 (6):506. doi: 10.1007/s11229-022-03524-1.
Chella, Antonio. 2023. “Artificial consciousness: the missing ingredient for ethical AI?” Frontiers in Robotics and AI 10. doi: 10.3389/frobt.2023.1270460.
Coeckelbergh, Mark. 2020. AI ethics, The MIT press essential knowledge series. Cambridge, MA: The MIT Press.
Edelman. 1992. Bright air, brilliant fire : on the matter of the mind. New York, NY: BasicBooks.
Evers, K. 2024. “To understand sentience in AI first understand it in animals. Commentary to Jonathan Birch and Kristin Andrews.” Intellectica 81 (2).
Evers, K., M. Farisco, R. Chatila, B. D. Earp, I. T. Freire, F. Hamker, E. Nemeth, P. F. M. J. Verschure, and M. Khamassi. 2025. “Preliminaries to artificial consciousness: A multidimensional heuristic approach.” Physics of Life Reviews 52:180-193. doi: https://doi.org/10.1016/j.plrev.2025.01.002.
Farisco, M., G. Baldassarre, E. Cartoni, A. Leach, M. A. Petrovici, A. Rosemann, A. Salles, B. Stahl, and S. J. van Albada. 2024. “A method for the ethical analysis of brain-inspired AI.” Artificial Intelligence Review 57 (6):133. doi: 10.1007/s10462-024-10769-4.
Farisco, M., K. Evers, and A. Salles. 2020. “Towards Establishing Criteria for the Ethical Analysis of Artificial Intelligence.” Sci Eng Ethics. doi: 10.1007/s11948-020-00238-w.
Farisco, Michele, Kathinka Evers, and Jean-Pierre Changeux. 2024. “Is artificial consciousness achievable? Lessons from the human brain.” Neural Networks 180:106714. doi: https://doi.org/10.1016/j.neunet.2024.106714.
Godfrey-Smith, Peter. 2023. Nervous Systems, Functionalism, and Artificial Minds.
Metzinger, T. 2021. “An Argument for a Global Moratorium onSynthetic Phenomenology.” Journal of Arti¯cial Intelligence and Consciousness 8 (1):1-24.
Salles, A., K. Evers, and M. Farisco. 2020. “Anthropomorphism in AI.” AJOB Neurosci 11 (2):88-95. doi: 10.1080/21507740.2020.1740350.
Vidal, Fernando. 2016. “Dualisms of body and soul: historiographical challenges to a stereotype.” Metascience 25 (1):111-114. doi: 10.1007/s11016-015-0050-9.
