IIl recente messaggio di Papa Leone XIV “Custodire voci e volti umani”, formulato in occasione della LX Giornata Mondiale delle Comunicazioni Sociali, offre, ben oltre le specifiche implicazioni pastorali del testo, significativi spunti di riflessione sulle attuali prospettive dell’evoluzione digitale anche alla luce delle pervasive funzionalità generative di cui sono dotati i sistemi di intelligenza artificiale.
L’analisi del Pontefice consente di tracciare, con estrema lucidità, una chiave di lettura organica per tentare di comprendere la trasformazione tecnologica contemporanea, focalizzando le principali e più spinose questioni che sono al centro del corrente dibattito globale, con particolare riferimento ai rischi di manipolazione algoritmica, dipendenza digitale, disinformazione e concentrazione di potere in capo alle “big-tech”.
Indice degli argomenti
Papa Leone XIV e intelligenza artificiale
Il messaggio di Papa Leone XIV esprime una profonda visione “umano-centrica” che attualizza il pensiero pastorale della Chiesa di fronte alle nuove questioni che emergono negli ultimi tempi, sul solco della Costituzione Praedicate Evangelium, e in linea con la cornice generale edificata dalla nota Antiqua et nova elaborata, durante il pontificato di Papa Francesco, nell’ottica di approfondire il complesso rapporto tra intelligenza artificiale e intelligenza umana.
Seguendo tali coordinate, Papa Leone XIV individua i “tratti distintivi unici” di ogni persona nel “volto” e nella “voce”, come aspetti ritenuti “sacri”, in quanto “donati da Dio”, da cui discende “l’irripetibile identità” dell’essere umano che, creato a immagine e somiglianza di Dio, è in grado di manifestare concretamente nella propria vita, attraverso l’attribuzione di tali specifici connotati, il “riflesso dell’amore divino”. Per tale ragione, nella ricostruzione concettuale del Sommo Pontefice, «custodire volti e voci umane significa perciò custodire […] questo riflesso indelebile dell’amore di Dio. Non siamo una specie fatta di algoritmi biochimici, definiti in anticipo. Ciascuno di noi ha una vocazione insostituibile e inimitabile che emerge dalla vita e che si manifesta proprio nella comunicazione con gli altri» (cfr. Messaggio di sua Santità Papa Leone XIV per la LX giornata mondiale delle comunicazioni sociali, cit.).
Volti e voci umane nella visione umano-centrica
Si coglie dunque, nelle parole del Papa, l’ineludibile distinzione ontologica tra l’infungibilità dell’essere umano e la finitezza di qualsivoglia sistema tecnologico, per quanto sofisticato possa divenire il relativo funzionamento applicativo.
Richiamando la base etimologica delle categorie classiche di “prósōpon” (volto) e “per-sonare” (suono) utilizzate nel titolo del suo messaggio, Papa Leone XIV sottolinea la dimensione relazionale dell’essere umano, fondata sulla comunicazione incarnata che “Dio fa di sé stesso”.
I rischi dell’ecosistema digitale
In tale prospettiva, alla luce delle svariate insidie configurabili nell’ambiente digitale, la riflessione pontificia pone l’accento sul preoccupante lato oscuro della tecnologia che «rischia invece di modificare radicalmente alcuni dei pilastri fondamentali della civiltà umana […] Simulando voci e volti umani, sapienza e conoscenza, consapevolezza e responsabilità, empatia e amicizia, i sistemi conosciuti come intelligenza artificiale non solo interferiscono negli ecosistemi informativi, ma invadono anche il livello più profondo della comunicazione, quello del rapporto tra persone umane» (cfr. Messaggio di sua Santità Papa Leone XIV per la LX giornata mondiale delle comunicazioni sociali, cit.).
Il caso del deepfake
Si pensi, ad esempio, alle preoccupanti ripercussioni che sta determinando il fenomeno del “deepfake” nella creazione di interazioni artificialmente umanizzate in grado di provocare svariati effetti pregiudizievoli nella vita delle persone.
Pur rifiutando a priori di avallare un approccio intrinsecamente “tecnofobico”, ad avviso di Papa Leone XIV, occorre prioritariamente non sottovalutare le criticità e le opacità generate dallo sviluppo algoritmico, per riuscire a cogliere «con coraggio, determinazione e discernimento le opportunità offerte dalla tecnologia digitale».
In considerazione dello scenario esistente, di fronte alle insidie prospettate, si pone una sfida che, secondo le parole del Sommo Pontefice, «non è tecnologica, ma antropologica», nella misura in cui sussiste il rischio di realizzare una progressiva desertificazione relazionale, degradando le interazioni umane da profondamente autentiche a meramente asettiche e meccaniche, con conseguente metamorfosi algoritmica delle persone.
Manipolazione algoritmica e libertà individuale
Papa Leone XIV coglie, come una delle minacce più insidiose, il processo di manipolazione digitale che, attraverso sistemi di profilazione personalizzata e pervasive notifiche in grado di catturare l’attenzione e incrementare il tempo di permanenza online, erode la libertà di autodeterminazione individuale. In tal senso, viene descritta l’esistenza di «algoritmi progettati per massimizzare il coinvolgimento sui social media – redditizio per le piattaforme – che premiano emozioni rapide e penalizzano invece espressioni umane più bisognose di tempo come lo sforzo di comprendere e la riflessione. Chiudendo gruppi di persone in bolle di facile consenso e facile indignazione, questi algoritmi indeboliscono la capacità di ascolto e di pensiero critico e aumentano la polarizzazione sociale» (cfr. Messaggio di sua Santità Papa Leone XIV per la LX giornata mondiale delle comunicazioni sociali, cit.).
Tutto ciò genera una spirale algoritmica negativa che rafforza le vulnerabilità psicologiche e incrementa la radicalizzazione ideologica verso convinzioni sempre più autoreferenziali a senso unico, riducendo il dialogo e il pluralismo informativo.
Intelligenza artificiale e impoverimento culturale
Un’ulteriore criticità è rappresentata dal progressivo impoverimento culturale provocato dallo sviluppo di sistemi di intelligenza artificiale che potrebbe compromettere le capacità cognitive, emotive e comunicative dell’essere umano.
Ritenere erroneamente tale tecnologia – come sta comunemente accadendo nella prassi – «”amica” onnisciente, dispensatrice di ogni informazione, archivio di ogni memoria, “oracolo” di ogni consiglio», comporta il rischio di realizzare un’automazione cognitiva in grado di determinare l’atrofia della capacità critica umana. Al riguardo, Papa Leone XIV afferma che «tutto ciò può logorare ulteriormente la nostra capacità di pensare in modo analitico e creativo, di comprendere i significati, di distinguere tra sintassi e semantica […] trasformando le persone in meri consumatori passivi di pensieri non pensati, di prodotti anonimi, senza paternità, senza amore. Mentre i capolavori del genio umano nel campo di musica, arte e letteratura vengono ridotti a un mero campo di addestramento delle macchine» (cfr. Messaggio di sua Santità Papa Leone XIV per la LX giornata mondiale delle comunicazioni sociali, cit.).
In altri termini, una simile prospettiva tecnologica, lungi dal costituire fonte di benessere generale per la collettività, potrebbe provocare una distopica disumanizzazione sociale. Affidarsi integralmente ai sistemi di intelligenza artificiale, infatti, pone un serio problema di “deskilling cognitivo” causato da un’eccessiva automazione algoritmica.
Disinformazione, bot e controllo oligopolistico
Nell’attuale ecosistema digitale, inoltre, si assiste a una crescente proliferazione della disinformazione, sempre più amplificata da distorsioni algoritmiche, che alterano la percezione effettiva della realtà verso i confini labili di “realtà parallele”, erodendo la fiducia collettiva e incrementando le diseguaglianze sociali. Al riguardo, Papa Leone XIV afferma che «mentre scorriamo i nostri flussi di informazioni (feed), diventa così sempre più difficile capire se stiamo interagendo con altri esseri umani o con dei “bot” o dei “virtual influencers” […] La struttura dialogica e adattiva, mimetica, di questi modelli linguistici è capace di imitare i sentimenti umani e simulare così una relazione. Questa antropomorfizzazione, che può risultare persino divertente, è allo stesso tempo ingannevole, soprattutto per le persone più vulnerabili» (cfr. Messaggio di sua Santità Papa Leone XIV per la LX giornata mondiale delle comunicazioni sociali, cit.).
Un’ulteriore questione approfondita nel messaggio pontificio riguarda la concentrazione di potere nelle mani di poche grandi piattaforme tecnologiche. In questo senso, Papa Leone XIV parla di “controllo oligopolistico” dei sistemi algoritmici per descrivere l’attuale architettura tecnologica, basata sulla supremazia dei pochi giganti “hi-tech” «in grado di orientare sottilmente i comportamenti, e persino riscrivere la storia umana».
Il modello umanocentrico per la tecnologia
Papa Leone XIV non si limita a descrivere le criticità dell’ecosistema digitale, ma propone un concreto modello “umanocentrico” della tecnologia, fondato sui pilastri della “responsabilità, cooperazione e educazione”, auspicando, in tal senso, un’alleanza che coinvolga la società civile, il tessuto imprenditoriale e i legislatori, nell’ottica di orientare lo sviluppo trasparente dell’innovazione verso il perseguimento del bene comune.
In tale prospettiva, il richiamo del messaggio del Pontefice alla necessità di “custodire voci e volti umani” esprime il profondo significato di una lungimirante visione dalla rilevante portata sociale, che mira a preservare le relazioni autentiche e la libertà cognitiva, costruendo una tecnologia al servizio della persona per evitare che la logica materialistica dell’automazione algoritmica prevalga sulla dignità umana come funesto epilogo della futura civiltà digitale.
Le opinioni espresse nel presente articolo hanno carattere personale e non sono, direttamente o indirettamente collegate, in alcun modo, alle attività e funzioni lavorative svolte dall’Autore, senza, quindi, impegnare, in alcun modo, l’Amministrazione di appartenenza del medesimo.
Partecipa alla community