Seguendo le coordinate tracciate nel messaggio pastorale “Custodire voci e volti umani”, formulato in occasione della LX Giornata Mondiale delle Comunicazioni Sociali, in continuità con le riflessioni approfondite nella Nota Antiqua et nova (elaborata durante il pontificato di Papa Francesco), lungo l’orizzonte delineato dalla Costituzione Praedicate Evangelium, è stata recentemente pubblicata l’Enciclica di Papa Leone XIV “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale.
Sul piano strutturale, il testo consta di 5 Capitoli, integrati da un’introduzione e da una conclusione.
Letta nel suo complessivo significativo sistematico, “Magnifica Humanitas” fornisce al diritto positivo il fondamento assiologico dei principi ispiratori costituenti la “ratio” sottesa alle norme da applicare, dando senso compiuto alla ricostruzione interpretativa della regolamentazione vigente in materia, entro la cornice valoriale del “Magistero Sociale” della Chiesa.
In particolare, “Magnifica Humanitas” consente di elaborare un’innovativa teoria della regolazione tecnologica che individua la base etica e antropologica della normativa volta a disciplinare i sistemi di intelligenza artificiale.
Indice degli argomenti
Magnifica Humanitas e la sfida dell’intelligenza artificiale
Entrando nel merito del contenuto dell’Enciclica, nell’ambito delle osservazioni introduttive, Papa Leone XIV ricorre alla simbologia biblica per esprimere la profondità della propria visione non soltanto in chiave teologica, ma anche sociale, con l’intento di tracciare, come rilevante questione globale, le problematiche implicazioni del futuro sviluppo dell’ecosistema digitale che pone oggi la “magnifica umanità creata da Dio […] di fronte ad una scelta decisiva: innalzare una nuova torre di Babele o edificare la città dove Dio e l’umanità abitano insieme” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Introduzione, p. 1, cit.).
La sindrome di Babele nel progresso tecnologico
In particolare, la costruzione della torre di Babele descritta nel racconto della Genesi (11, 1-9) – che raffigura l’ambizione umana di realizzare un’opera monumentale “la cui cima tocchi il cielo”, fondata su una smisurata pretesa di autosufficienza priva della trascendenza divina -, viene così attualizzata dal Sommo Pontefice per descrivere il rischio di consolidare un modello di civiltà contemporanea progressivamente disumanizzata a causa della preminente supremazia del potere tecnologico, con conseguente generalizzata automazione algoritmica della società.
Tale prospettiva si contrappone al differente paradigma edificatorio della “Nuova Gerusalemme”, rappresentata nel libro di Neemia (Ne 1-2), come “città dove Dio e l’umanità abitano insieme”, grazie all’affermazione graduale di un sistema valoriale condiviso – lentamente costruito “mattone su mattone” -, in grado di orientare il progresso tecnologico al perseguimento del bene comune, facendo prevalere il rispetto inderogabile della dignità della persona sulla logica massimizzata del profitto.
Secondo l’analisi del Sommo Pontefice, emergono nell’attuale era digitale i tratti inediti della cd. “sindrome di Babele”, intesa come “idolatria del profitto che sacrifica i deboli, l’uniformità che appiattisce le differenze, la pretesa di un linguaggio unico – anche digitale – capace di tradurre tutto, persino il mistero della persona, in dati e prestazioni” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Introduzione, p. 10, cit.).
Al riguardo, il riferimento biblico alla “Torre di Babele” consente di rilevare il lato oscuro delle tecnologie da cui discendono preoccupanti patologie e vulnerabilità sociali, come conseguenza della pretesa umana di orientare l’innovazione digitale esclusivamente verso una direzione di potenza tecnica senza limiti mediante la progressiva implementazione di sistemi algoritmici sempre più opachi e pervasivi.
In questi termini si materializza, nella visione di Papa Leone XIV, “il rischio della disumanizzazione […] che oggi assume anche un volto tecnico” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Introduzione, p. 10, cit.).
Diversamente, occorre invece edificare un progresso tecnologico eticamente sostenibile, basato sul bene comune che impone “di restare profondamente umani” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Introduzione, p. 15, cit.), preservando le fragilità e le diversità che caratterizzano la vita di ogni persona, senza avere la pretesa illusoria di realizzare un incalzante perfezionamento tecnico incentivato da una visione arida e materialistica di assolutezza algoritmica, che degrada le persone a meri processi computazionali, privi di qualsivoglia dimensione emotiva e spirituale.
Dottrina sociale della Chiesa e governo dell’IA
Papa Leone XIV richiama, inoltre, la “Dottrina sociale della Chiesa”, formalizzata nell’Enciclica “Rerum Novarum” di Papa Leone XIII nel 1891, per confermare l’impegno attivo, anche da parte delle Istituzioni Ecclesiastiche, di riflettere sulle “questioni sociali” che emergono nel contesto attuale, agendo concretamente in coerenza con i principi pastorali del patrimonio religioso che fortificano e rivitalizzano il percorso autentico della vita umana.
Al riguardo, la scelta di evocare l’Enciclica “Rerum Novarum” consente di paragonare l’attuale trasformazione digitale alla prima “rivoluzione industriale” che aveva indotto Papa Leone XIII a declinare un convinto cambio di paradigma interventista di fronte ai rischi provocati dall’emergente sistema capitalista. Con il medesimo approccio, Papa Leone XIV evidenzia oggi, come rilevante questione antropologica contemporanea, il preoccupante impatto tecnologico sulla sfera individuale delle persone nell’era algoritmica.
In tale prospettiva, sul solco della costante proliferazione delle “res novae”, Papa Leone XIV include nel novero delle “nuove questioni” emergenti anche i “progressi della tecnica”, con particolare riferimento all’evoluzione digitale e allo sviluppo dell’intelligenza artificiale.
Pur riconoscendo gli indubbi benefici generati dall’innovazione tecnologica, al contempo si manifestano, come preoccupante lato oscuro di tale progresso, gli effetti pregiudizievoli sulla vita delle persone provocati da sofisticati algoritmi che “si innestano nella trama della quotidianità, plasmano i processi decisionali e incidono in profondità sull’immaginario collettivo” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Introduzione, p. 4, cit.).
Per tale ragione, ben oltre il necessario adeguamento normativo da realizzare mediante l’introduzione di efficaci regolamentazioni in grado “di contenere gli effetti distorsivi del potere tecnologico”, oggi prevalentemente concentrato in capo ad “attori privati, spesso transnazionali, dotati di risorse e capacità di intervento superiori a quelle di molti governi” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Introduzione, p. 5, cit.), occorre un ulteriore imprescindibile sforzo collettivo da compiere sul piano culturale. Risulta indispensabile promuovere un lungimirante approccio educativo e formativo condiviso per orientare il futuro ecosistema digitale verso il perseguimento del bene comune, con l’intento di consentire all’umanità di sfruttare le opportunità offerte dall’innovazione digitale, superando una lettura troppo semplicistica del progresso che si esaurisce in una sterile contrapposizione tra posizioni favorevoli o contrari alla tecnologia.
Un pensiero dinamico fedele al Vangelo
Sulla base delle osservazioni introduttive esposte, il Capitolo primo dell’Enciclica “Magnifica Humanitas” (dal titolo “Un pensiero dinamico fedele al Vangelo”) costruisce la cornice antropologica della visione pontificia per comprendere le sfide poste dall’evoluzione dell’intelligenza artificiale secondo il modello di vocazione attiva formalizzato dalla “Dottrina Sociale della Chiesa”, come “cammino di discernimento comunitario” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo primo, p. 27, cit.), incentivato dal Concilio Vaticano II, che valorizza l’impatto dell’interpretazione teologica sulle concrete questioni sociali: emerge, quindi, l’impegno concreto della missione pastorale in grado di leggere i “segni dei tempi”, assicurando un processo reale di evangelizzazione per orientare il percorso dell’umanità, lungo le diverse epoche storiche, verso il bene comune.
Dignità umana e principi per l’era algoritmica
Il Capitolo secondo enuclea i fondamenti e i principi della “Dottrina Sociale della Chiesa”, che consentono di “custodire la persona umana nel tempo dell’intelligenza artificiale” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo secondo, p. 46, cit.).
A tal fine, ben oltre lo specifico connotato pastorale, è possibile cogliere il fondamento regolatorio dei principi formalizzati, utilizzabili per governare il progresso tecnologico entro una cornice umano-centrica eticamente sostenibile, a maggior ragione prendendo atto della progressiva concentrazione di potere, al di fuori dell’ordinario apparato statuale, in capo a pochi “grandi attori economici e tecnologici” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo terzo, p. 95, cit.). da cui discende il rischio di generare dipendenze, esclusioni, manipolazioni e disuguaglianze.
Il nucleo centrale della visione pontificia è costituito dal rispetto della dignità umana spettante a ciascuna persona, creata a immagine di Dio. Pur trattandosi di un’attribuzione “ontologica” incondizionata, Papa Leone XIV intravede insidiosi rischi che potrebbero comprometterne l’effettivo riconoscimento in presenza di sistemi tecnologici che tendono a classificare gli individui attraverso meccanismi di reputazione digitale e di profilazione personalizzata, utilizzabili per attribuire maggiore valore a “coloro che sono più efficienti e performanti” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo secondo, p. 51, cit.).
In una società caratterizzata dal progressivo determinismo algoritmico in grado di amplificare discriminazioni e automatizzare i processi decisionali, diventa cruciale garantire la tutela dei diritti umani, che sono inviolabili in quanto inerenti alla dignità della persona.
Dalla dimensione individuale a quella collettiva il bene comune rappresenta “la forma sociale della dignità riconosciuta a ciascuno” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo secondo, p. 59, cit.). Non coincide, pertanto, con la semplice somma degli interessi particolari dei singoli, ma costituisce il risultato di una condizione di interdipendenza e influenza reciproca in grado di sviluppare pienamente un progetto condiviso per l’intera comunità umana.
Beni digitali, sussidiarietà e giustizia sociale
Particolarmente rilevante è l’interpretazione del principio della destinazione universale dei beni che postula la titolarità, spettante a tutti, di un diritto originario al relativo uso. Tale principio, tradizionalmente riferibile ai beni materiali della terra – suolo, acqua, aria e risorse naturali – è oggi estensibile anche ai beni immateriali (identificati in algoritmi, piattaforme digitali e infrastrutture tecnologiche) che, pur essendo fonte di smisurata ricchezza, “restano concentrati nelle mani di pochi, senza adeguate forme di condivisione e di accesso” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo secondo, p. 67, cit.).
Tra i principi della “Dottrina Sociale della Chiesa” viene annoverato anche quello di sussidiarietà, attualizzato “nel contesto della rivoluzione digitale” come limite contro il rischio di un’eccessiva concentrazione del potere tecnologico esercitato da grandi attori economici “che definiscono condizioni di accesso, regole di visibilità, forme di relazione e perfino opportunità economiche. La sussidiarietà chiede che tali processi non si impongano dall’alto in modo opaco e unilaterale, ma siano orientati al bene comune mediante trasparenza, responsabilità e forme reali di partecipazione” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo secondo, p. 71, cit.).
La sussidiarietà si intreccia con il principio di solidarietà, che riguarda anche l’ecosistema digitale, per evitare che le relative risorse siano sfruttate o monopolizzate a causa di vantaggi immediati conseguiti da pochi, piuttosto che optare per un differente modello sostenibile di fruizione generale condivisa.
Il principio della giustizia sociale impedisce la creazione di nuove forme di esclusione sociale e privazioni di libertà generate dalle tecnologie digitali: ciò si verifica a fronte di sistemi che impediscono l’accesso alla Rete, applicano forme di sorveglianza invasiva, codificano pregiudizi e diffondono discriminazioni. Papa Leone XIV afferma, al riguardo, che “un ordine sociale giusto nel tempo del digitale è quello che garantisce a tutti un accesso equo alle opportunità, protegge i più piccoli e i più fragili, contrasta l’odio e la disinformazione, sottopone a controllo pubblico l’uso dei dati e delle tecnologie, così che il criterio non sia il solo profitto ma la dignità di ogni persona e il bene dei popoli” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo secondo, p. 80, cit.).
Intelligenza artificiale, primato della persona e limiti della tecnica
Dopo aver enucleato il catalogo fondamentale dei principi generali volti a orientare lo sviluppo dell’intelligenza artificiale, il Capitolo terzo (denominato “Tecnica e Dominio – la grandezza della persona umana davanti alle promesse dell’IA”), riprende, in chiave di simbologia biblica, il raffronto tra la “torre di Babele” e la “città di Gerusalemme”, per descrivere come sia possibile orientare in modo consapevole il progresso tecnologico verso una direzione eticamente e socialmente sostenibile in grado di “custodire e valorizzare la magnifica umanità che ci è data in dono” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo terzo, p. 90, cit.).
Papa Leone XIV evidenzia i criteri distintivi tra intelligenza umana e intelligenza artificiale, al fine di affermare il “primato della persona” che, pertanto, ha la responsabilità di guidare, “con la sua coscienza e la sua libertà”, il progresso tecnologico (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo terzo, p. 97, cit.).
Poiché, allo stato attuale, non è possibile appieno comprendere l’integrale funzionamento tecnico dei sistemi di intelligenza artificiale, anche in ragione della notevole rapidità di perfezionamento evolutivo che li caratterizza, oltre a incentivare una costante ricerca scientifica per approfondire tale materia, diventa indispensabile, come ulteriore impegno, stimolare “un’esercizio di discernimento morale e spirituale” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo terzo, p. 98, cit.).
Al riguardo, l’Enciclica contesta il tentativo di equiparazione tra intelligenza artificiale e intelligenza umana, basata su un’eccessiva semplificazione delle tecnologie emergenti in grado di simulare svariate attività quotidiane con notevole velocità di implementazione in auto-apprendimento, nell’ambito di un’errata impostazione meramente quantitativa della capacità di elaborare operazioni complesse in termini di efficiente misurazione statistica dei risultati ottenibili.
In realtà, a differenza della potenza di calcolo di cui sono dotati i modelli algoritmici per processare dati e correlare informazioni, l’intelligenza umana consta di aspetti che non sono replicabili mediante procedure automatizzate.
Secondo Papa Leone XIV, infatti, “le cosiddette intelligenze artificiali non vivono una esperienza, non possiedono un corpo, non attraversano la gioia e il dolore, non maturano nella relazione, non conoscono dall’interno ciò che significa amore, lavoro, amicizia, responsabilità. Non hanno neppure una coscienza morale: non giudicano il bene e il male, non colgono il senso ultimo delle situazioni, non assumono su di sé il peso delle conseguenze. Possono imitare linguaggi, comportamenti, valutazioni, possono simulare empatia o comprensione, ma non capiscono ciò che producono, perché non abitano l’orizzonte affettivo, relazionale e spirituale in cui l’umano diventa sapiente” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo terzo, p. 99, cit.).
Responsabilità politica e trasparenza dell’IA
In tale prospettiva, per Papa Leone XIV, è importante edificare il governo dell’IA sui pilastri di responsabilità e di trasparenza, prendendo atto che l’uso dei sistemi di intelligenza artificiale – non puramente tecnico né moralmente neutro – possa provocare, in una direzione involutiva antiumana, ripercussioni negative sulla vita delle persone, esposte a svariate insidie prodotte da sistemi automatizzati in grado di determinare nuove forme di esclusione sociale. Da ciò discende la necessità di adottare rigorose verifiche e maggiori cautele rispetto allo sviluppo dell’innovazione tecnologica nell’ambito di “quadri giuridici adeguati” che consentano di (ri)affermare il primato della politica per evitare che “il cambiamento sarà governato solo da logiche tecnocratiche […] finendo per imporre regole dettate da chi possiede dati, infrastrutture e capacità di calcolo” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo terzo, p. 106, cit.).
In altri termini, non basta semplicemente invocare l’adozione di un astratto approccio “umano-centrico” fondato sull’auspicio teorico di rendere l’intelligenza artificiale più morale – a maggior ragione se ciò avviene sulla base di valori imposti da pochi, non corrispondenti ai criteri sostanziali di giustizia sociale condivisa -, ma occorre “una politica più presente, capace di rallentare dove tutto accelera e di proteggere gli spazi in cui le comunità possono ancora partecipare e interrogarsi” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo terzo, p. 107, cit.).
Avallando un simile cambio di paradigma culturale, diventa possibile “disarmare l’IA”, non solo in senso militare, ma anche economico e cognitivo, per impedire alla tecnologia di “dominare l’umano” e rompere l’equivalenza tra “potenza tecnica e diritto di governare” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo terzo, p. 110, cit.).
In caso contrario, si corre il rischio di affermare un “paradigma tecnocratico” incompatibile con la centralità dell’essere umano, come soggetto morale, legittimato a interrogarsi sulle scelte esperienziali compiute nell’esercizio della propria libertà personale.
Papa Leone XIV critica, al riguardo, le recenti ideologie, convenzionalmente note con il nome di “transumanesimo” o “postumanesimo”, che teorizzano il superamento dell’essere umano, mediante il potenziamento evolutivo di capacità e prestazioni rese possibili grazie a forme di ibridazione tra uomo e macchina, sull’errato assunto di ritenere come “difetto da correggere” qualsivoglia incapacità riscontrabile nella propria esperienza vissuta.
Invero, piuttosto che sostenere una simile “divinizzazione tecnologica”, come pretesa soluzione di assolutezza auto-correttiva, occorre accettare e sperimentare l’esistenza di limiti per mantenere il progresso tecnico entro l’essenziale finitezza del cammino umano, senza prescindere dalla profondità degli aspetti autentici che si instaurano nelle relazioni individuali, così orientate sempre al perseguimento del bene comune.
In una società come quella attuale che impone con sempre maggiore pressione standard di efficienza e ottimizzazione dei risultati per valutare il grado di performatività di qualsiasi prestazione, l’Enciclica afferma il valore dell’imperfezione come essenziale criterio di crescita e sviluppo individuale realizzabile anche grazie agli errori commessi e alle fragilità vissute in grado di esprimere il primato del libero arbitrio.
Governance digitale tra verità, lavoro e libertà
Passando dalla ricostruzione generale della cornice teorica entro cui edificare il futuro sviluppo tecnologico alle implicazioni concrete che il progresso determina nella vita quotidiana delle persone, il Capitolo quarto (dal titolo “Custodire l’umano nella trasformazione. Verità, lavoro, libertà”) affronta il problema della governance digitale declinabile attraverso un modello sostenibile di responsabilità condivisa, che richiede uno sforzo collettivo in grado di contenere le criticità prodotte da sistemi algoritmici.
Al riguardo, Papa Leone XIV evidenzia i rilevanti effetti collaterali della disinformazione, amplificati dall’uso dell’intelligenza artificiale e delle piattaforme digitali, sull’erosione della fiducia sociale e sull’alterazione delle relazioni umane, destinate a essere influenzate, in una dimensione anestetizzata di progressivo appiattimento concettuale del pensiero, dai contenuti che circolano online, con il rischio di rinunciare alla ricerca universale della verità come bene comune da salvaguardare anche per la sopravvivenza della democrazia.
Ecologia della comunicazione e alleanza educativa
Per tale ragione, nella visione pontificia, diventa indispensabile “promuovere un’ecologia della comunicazione” mediante un intervento “multistakeholder”, esteso anche alle “comunità cristiane”, che richiede non solo l’emanazione di adeguate norme in grado di tutelare i diritti individuali (prevedendo, tra l’altro, l’introduzione di specifici limiti di età per accedere ai servizi digitali), ma un generale cambio di paradigma socioculturale per stimolare una “nuova consapevolezza educativa e la formazione all’utilizzo corretto e critico degli strumenti digitali, dell’IA, delle piattaforme di acquisto e di investimento” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quarto, p. 137, cit.).
In particolare, il Sommo Pontefice ritiene necessario realizzare, nell’ambito di un rinnovato impegno derivante dalla “Dottrina Sociale della Chiesa”, un “alleanza educativa per l’era digitale”, fondata sulla “centralità della scuola”, grazie alla predisposizione di programmi formativi aggiornati per stimolare “l’esercizio della ricerca, della riflessione e del discernimento”, nell’ottica di fronteggiare la “crisi” della verità, generata dalla “cultura dell’immediatezza e dell’iperstimolazione, che alimenta stanchezza, noia e apatia”, come nuove criticità patologiche rilevate dalle recenti evidenze empiriche (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quarto, pp. 139-146, cit.).
In altri termini, il Santo Padre afferma che “occorre promuovere una vera igiene dell’attenzione: ritmi che prevedano silenzio, studio approfondito, lettura, confronto ponderato; senza questi elementi la libertà interiore può risultare compromessa” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quarto, p. 146, cit.).
Il valore del lavoro nell’era algoritmica
Un’ulteriore esigenza di tutela da preservare con l’avvento dell’attuale era algoritmica riguarda il “valore del lavoro” che, contribuendo al progresso della società, concorre al perseguimento del bene comune.
Al riguardo, Papa Leone XIV ritiene indispensabile “progettare sistemi centrati sulla persona e non soltanto sulla prestazione” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quarto, p. 150, cit.), per evitare che la rapidità dello sviluppo tecnologico possa incidere sul trattamento giuridico ed economico dei lavoratori, sottoposti a un regime di sorveglianza automatizzata, per svolgere, spesso in condizioni di sfruttamento, “funzioni rigide e ripetitive” destinate ad incrementare il tasso di disoccupazione, come conseguenza di una correlata riduzione della manodopera richiesta, progressivamente sostituita da modelli algoritmici in grado di replicare le attività umane.
In tale prospettiva, richiamando la visione, sempre attuale, formalizzata dalla “Dottrina Sociale della Chiesa”, Papa Leone XIV rinnova l’appello rivolto a “responsabili politici, organizzazioni dei lavoratori, mondo imprenditoriale e comunità scientifica per elaborare in tempi rapidi regole e tutele adeguate e condivise, anche a livello internazionale” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quarto, p. 155, cit.).
In un preoccupante scenario di neoliberismo predatorio, basato esclusivamente sulla logica del profitto come parametro quantitativo della ricchezza individuale conseguita, alla luce delle dinamiche economico-tecnologiche che si manifestano nell’epoca dell’IA, è indispensabile, per il Santo Padre, elaborare alternativi indicatori di misurazione del benessere collettivo, ricorrendo, in chiave di equità correttiva, a nuovi modelli redistributivi delle risorse in grado di assicurare la giustizia sociale nell’ambito di una necessaria cooperazione internazionale.
Dipendenze, controllo digitale e neocolonialismo tecnologico
Papa Leone XIV individua i mali prodotti da “una mentalità tecnocratica e postumanista, che tende a considerare la persona come oggetto manipolabile o risorsa da ottimizzare” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quarto, p. 172, cit.).
In primo luogo, il Santo Padre si concentra sulle gravi implicazioni delle dipendenze tecnologiche “legate all’economia digitale dell’attenzione, dove piattaforme e servizi sono progettati per catturare il tempo e lo sguardo degli utenti, sfruttandone le fragilità e indebolendo la libertà interiore. Quando modelli imprenditoriali prosperano sulla debolezza umana, la persona è trattata come mezzo e non come fine, e chi progetta o finanzia questi sistemi assume una responsabilità morale che non può essere elusa” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quarto, p. 170, cit.).
A tale criticità, che amplifica le vulnerabilità individuali, si aggiunge l’ulteriore rischio del controllo digitale generato dalla “raccolta massiva di dati e dall’uso di sistemi algoritmici. Quando ogni gesto lascia tracce – spostamenti, acquisti, relazioni, preferenze – si crea un potere nuovo: quello di profilare, prevedere e orientare i comportamenti, spesso senza che le persone ne abbiano piena consapevolezza. Se questi dati vengono usati per prendere decisioni che incidono su opportunità concrete (accesso al credito, selezione del personale, servizi) si rischia di ledere la libertà e discriminare i più vulnerabili” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quarto, p. 171, cit.).
Particolarmente preoccupante risulta, altresì, il fenomeno del neocolonialismo tecnologico prodotto dal funzionamento dell’economia digitale, che richiede il massivo sfruttamento di risorse umane, generando nuove forme di schiavitù incompatibili con la dignità della persona.
In tale prospettiva, Papa Leone XIV propone di adottare un modello etico di responsabilità condivisa contro il sistema di (presunta) neutralità tecnologica per governare lo sviluppo della civiltà contemporanea con l’avvento dell’era digitale, mantenendo centrale il primato della persona umana.
Cultura della potenza e civiltà dell’amore nell’era dell’IA
Nell’ambito del Capitolo quinto (intitolato “La cultura della potenza e la civiltà dell’amore”), rispetto alle principali implicazioni negative prodotte dall’intelligenza artificiale, la riflessione pone una particolare e specifica attenzione alle ripercussioni che tale tecnologia emergente può determinare sulle inedite modalità di trasformazione dei conflitti moderni alla luce delle nuove forme di guerra “ibrida” sempre più diffuse a livello globale. In particolare, senza un’adeguata assunzione di responsabilità e di consapevolezza culturale, ispirata anche dai principi della “Dottrina Sociale della Chiesa”, la trasformazione digitale potrebbe rendere “più rapida e impersonale la decisione sulla vita e sulla morte” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quinto, p. 182, cit.).
Papa Leone XIV intravede nel panorama mondiale “l’espandersi di una cultura della potenza, fatta di polarizzazioni e violenze. La moderna Babele non è soltanto il paradigma tecnocratico globalizzato, ma anche lo scontro a distanza tra imperialismi contrapposti, tra potenze che vogliono conservare il proprio primato e potenze che aspirano a conquistarlo, con una molteplicità di conflitti locali. È, inoltre, la corsa a sviluppare tecnologie sempre più potenti, o ad assicurarsene il controllo, secondo una dinamica disumanizzante che sembra non conoscere limiti” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quinto, p. 185, cit.).
Di fronte a un simile scenario involutivo, il Sommo Pontefice delinea un percorso di speranza, edificatore della “civiltà dell’amore”, fondata sulla stratificata interazione, lenta e coordinata, di ogni singolo legame che si instaura tra le comunità intermedie della società, “dalla famiglia al governo degli Stati” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quinto, p. 185, cit.).
La “civiltà dell’amore”, coniata da San Paolo VI, durante il periodo della “Guerra fredda”, come visione “alternativa all’opposizione ideologica tra sistemi” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quinto, p. 186, cit.) è resa reviviscente nel pensiero di Papa Leone XIV per edificare un concreto ordine sociale in grado di assicurare il perseguimento del bene comune, come progetto di solidarietà universale, compatibile con gli ideali positivi dell’era digitale, ove si possono intensificare le opportunità di interdipendenza dialogica grazie alle modalità di funzionamento delle infrastrutture tecnologiche utilizzabili secondo i principi originari sottesi alla nascita della Rete Internet.
Tale modello collettivo di pacifica convivenza si contrappone alla (attualmente) dominante “cultura della potenza” che, come preoccupante cambio di paradigma determinato dalla graduale crisi del “multilateralismo” causata dalla progressiva espansione di una “globalizzazione prevalentemente economica”, sembra “normalizzare” il ricorso alla guerra su scala mondiale a causa di narrazioni comunicative polarizzate e distorte, amplificate dagli effetti algoritmici della disinformazione digitale che influenzano l’opinione pubblica verso “lo scontro e la contrapposizione” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quinto, pp. 190-201 cit.)
Per Papa Leone XIV tali risvolti trovano conferma nella corsa incontrollabile agli armamenti, ulteriormente incentivata dallo sviluppo di nuovi strumenti militari automatizzati, che comportano la “crescita dell’industria bellica, divenuta settore chiave nell’economia di alcuni Paesi”, al punto di determinare la nascita di una vera e propria “nazione armata”, caratterizzata dalla “stretta connessione tra interessi economici, apparati militari e decisioni politiche” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quinto, p. 193, cit.).
Armi automatizzate e responsabilità internazionale
In tale prospettiva, secondo Papa Leone XIV, “occorre indicare puntuali criteri di discernimento” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quinto, p. 199, cit.), mediante il riconoscimento di un chiaro e identificabile regime di responsabilità configurabile in ogni fase del “ciclo di vita” dei sistemi di IA – dalla progettazione algoritmica iniziale sino al suo effettivo utilizzo – nell’ambito di un generale approccio umano-centrico che consenta di salvaguardare la capacità di valutare e prevenire le conseguenze derivanti dall’applicazione di strumenti bellici automatizzati, anche grazie all’elaborazione di regole condivise a livello internazionale per la tutela dei civili e dei relativi diritti fondamentali.
Pace, responsabilità e speranza nel futuro digitale
L’analisi pontificia contesta in radice l’idea del “falso realismo politico” che esaspera la conflittualità, nell’ambito delle nuove forme belliche “asimmetriche e ibride”, sfruttando “l’uso di disinformazione e campagne che alimentano paura, per influenzare l’opinione pubblica”, con l’intento di comunicare messaggi divisivi in grado di suscitare “paure e risentimenti” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quinto, pp. 205-206, cit.).
In un simile contesto culturale di guerra permanente che giustifica il conflitto come normale scenario planetario nell’ambito di un’escalation di tensioni destinate ad aumentare, Papa Leone XIV ritiene indispensabile “costruire la civiltà dell’amore”, come specifico impegno cristiano che trova la propria diretta fonte di vincolo attivo nelle “Sacre Scritture”, da cui discende la “resistenza operosa al male e una sorprendente creatività nel bene” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quinto, p. 211, cit.).
Al riguardo, per affermare la “civiltà dell’amore” e contrastare l’attuale declino disumanizzato della società, il Santo Padre rivolge un appello generale a tutti, chiamati ciascuno a fare la propria parte, nell’esercizio della propria funzione, a prescindere dal ruolo svolto, con una diretta assunzione di responsabilità personale che concorre a scegliere “se alimentare la logica della forza (anche solo con indifferenza, cinismo, menzogna, odio), oppure custodire la logica della pace (con verità, sobrietà, prossimità, cura)”; cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quinto, p. 212, cit.).
Disarmare le parole e rilanciare il dialogo
In particolare, Il Santo Padre enuclea un catalogo di azioni ritenute indispensabili per raggiungere tale scopo.
Occorre anzitutto “disarmare le parole”, prendendo piena consapevolezza della rilevante incidenza del modo di esprimersi nella comunicazione quotidiana, come prima basica forma di contrasto all’attuale idolatria della violenza, in grado di contribuire a “costruire la pace nella giustizia”. Inoltre, per “rimanere umani” è necessario prendere posizione senza esitare quando si verificano conflitti, dando “spazio, nell’informazione e nell’educazione, allo sguardo e alla voce delle vittime” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quinto, p. 217, cit.).
Bisogna “coltivare un sano realismo” come impegno autentico che, privo di cinismo e senza credenze ideologiche precostituite, “non rinuncia a cambiare il mondo: comincia dal vedere con chiarezza interessi, paure, vincoli e rapporti di forza, proprio per calcolare che cosa sia possibile ottenere e con quali passaggi. Non riduce la politica alla moralità, ma neppure la consegna alla violenza: cerca vie praticabili perché la pace sia più di una parola, cioè istituzioni credibili, garanzie verificabili, negoziati pazienti, prevenzione dei conflitti e tutela dei civili” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quinto, p. 218, cit.).
Risulta importante “rilanciare il dialogo” sia nelle interazioni dei rapporti interpersonali che, a livello politico, nelle relazioni istituzionali fra gli Stati per facilitare, mediante il rafforzamento della diplomazia e del multilateralismo, il mantenimento della pace, allontanando “gradualmente l’umanità dalla spirale della violenza”, per contribuire alla “costruzione di una civiltà dell’amore in cui anche le nuove tecnologie siano orientate al bene comune” (cfr. “Magnifica Humanitas” – sulla custodia della persona umana nel tempo dell’intelligenza artificiale, Capitolo quinto, p. 227, cit.).
Emerge, dunque, la profonda visione della speranza che, per Papa Leone XIV, ben oltre le prospettive negative di rassegnazione a un mero fatalismo pessimistico sul futuro ecosistema digitale, viene alimentata dalla dimensione spirituale, culturale e morale che l’evangelizzazione pastorale assume il compito di stimolare per orientare il progresso tecnologico verso un orizzonte etico autenticamente umano, come “cantiere del nostro tempo” in grado di edificare la “nuova città di Gerusalemme”.
Le opinioni espresse nel presente articolo hanno carattere personale e non sono, direttamente o indirettamente collegate, in alcun modo, alle attività e funzioni lavorative svolte dall’Autore, senza, quindi, impegnare, in alcun modo, l’Amministrazione di appartenenza del medesimo.
Partecipa alla community