la lettura

Floridi, la necessità di un progetto umano per il XXI secolo

Il matrimonio tra il verde di tutti i nostri habitat e il blu delle tecnologie digitali controbilancia il divorzio tra l’agire e l’intelligenza. Siamo noi che abbiamo la responsabilità di disegnare e gestire entrambi con successo. Un estratto dall’ultimo libro di Luciano Floridi, “Etica dell’intelligenza artificiale”

24 Mar 2022
Luciano Floridi

docente di filosofia ed etica dell'informazione, University of Oxford e Direttore del Digital Ethics Lab dell'Oxford Internet Institute

A volte dimentichiamo che la vita senza il contributo di una buona politica, di una scienza affidabile e di una robusta tecnologia diventa presto “solitaria, povera, sgradevole, brutale e breve”, per prendere in prestito le parole del Leviatano di Thomas Hobbes. La crisi del Covid-19 ci ha tragicamente ricordato che la natura può essere spietata. Solo l’ingegno umano e la buona volontà possono migliorare e salvaguardare il tenore di vita di miliardi di persone.

https://www.raffaellocortina.it/scheda-libro/luciano-floridi/etica-dellintelligenza-artificiale-9788832854091-3667.html

Oggi, gran parte di tale ingegnosità è impegnata nel realizzare una rivoluzione epocale: la trasformazione di un mondo esclusivamente analogico in un mondo sempre più digitale. Gli effetti sono già diffusi: questa è la prima pandemia in cui un nuovo habitat, l’infosfera, ha contribuito a superare i pericoli della biosfera. Viviamo onlife (sia online sia offline) ormai da tempo, ma la pandemia ha trasformato l’esperienza onlife in una realtà che costituisce un punto di non ritorno per l’intero pianeta.

L’intelligenza artificiale per l’umanità

Lo sviluppo dell’IA è un fattore importante in questa rivoluzione epocale. L’IA dovrebbe essere concepita come l’ingegnerizzazione di artefatti in grado di fare cose che richiederebbero intelligenza se dovessimo farle noi.

WHITEPAPER
Intelligent Enterprise: come usare i dati e l’AI per creare la CX perfetta e omnicanale
Big Data
Digital Transformation

Un telefono cellulare può battere quasi chiunque a scacchi, pur essendo intelligente come un tostapane. In altre parole, l’IA segna il divorzio senza precedenti tra la capacità di portare a termine compiti o risolvere problemi con successo in vista di un dato obiettivo e il bisogno di essere intelligenti per farlo. Questo riuscito divorzio è diventato possibile solo negli ultimi anni, grazie a gigantesche quantità di dati, strumenti statistici molto sofisticati, enorme potenza di calcolo e alla trasformazione dei nostri contesti di vita in luoghi sempre più adatti all’IA (avvolti intorno all’IA). Quanto più viviamo nell’infosfera e onlife, tanto più condividiamo le nostre realtà quotidiane con forme di agire ingegnerizzate, e tanto più l’IA può affrontare un numero crescente di problemi e compiti. Il limite dell’IA non è il cielo, ma l’ingegno umano.

In questa prospettiva storica ed ecologica, l’IA è una straordinaria tecnologia che può essere una potente forza positiva, in due modi principali. Può aiutarci a conoscere, comprendere e prevedere di più e meglio le numerose sfide che stanno diventando così impellenti, in particolare il cambiamento climatico, l’ingiustizia sociale e la povertà globale. La corretta gestione di dati e processi da parte dell’IA può accelerare il circolo virtuoso tra maggiori informazioni, migliore scienza e politiche più avvedute. Eppure, la conoscenza è potere solo se si traduce in azione. Anche a questo riguardo, l’IA può essere una notevole forza positiva, aiutandoci a migliorare il mondo, e non soltanto la sua interpretazione. La pandemia ci ha ricordato che fronteggiamo problemi complessi, sistemici e globali. Non possiamo risolverli individualmente. Abbiamo bisogno di coordinarci (non dobbiamo intralciarci), collaborare (ognuno fa la sua parte) e cooperare (lavoriamo insieme) di più, meglio e a livello internazionale. L’IA può consentirci di realizzare queste 3C in modo più efficiente (più risultati con meno risorse), in modo efficace (migliori risultati) e in modo innovativo (nuovi risultati).

Tuttavia, c’è un “ma”: sappiamo che l’ingegno umano, senza buona volontà, può essere pericoloso. Se l’IA non è controllata e guidata in modo equo e sostenibile, può esacerbare i problemi sociali, dai pregiudizi alla discriminazione; erodere l’autonomia e la responsabilità umana; amplificare i problemi del passato, dall’iniqua allocazione della ricchezza allo sviluppo di una cultura della mera distrazione, quella del “panem et digital circenses”. L’IA rischia di trasformarsi da parte della soluzione a parte del problema. Questo è il motivo per cui iniziative etiche e buone norme internazionali sono essenziali per garantire che l’IA rimanga una potente forza per il bene.

L’IA per il bene sociale è parte integrante di un nuovo matrimonio, tra il verde di tutti i nostri habitat – naturali, sintetici e artificiali, dalla biosfera all’infosfera, da ambienti urbani a contesti economici, sociali e politici – e il blu delle nostre tecnologie digitali – dai cellulari alle piattaforme sociali, dall’Internet delle Cose ai Big Data, dall’IA ai futuri computer quantistici. Il matrimonio tra il verde e il blu, con i suoi vantaggi, controbilancia il divorzio tra l’agire e l’intelligenza, con i suoi rischi. Siamo noi che abbiamo la responsabilità di disegnare e gestire entrambi con successo. La pandemia ha reso palese che la posta in gioco non risiede tanto nell’innovazione digitale, quanto piuttosto nella corretta governance del digitale. Le tecnologie aumentano e migliorano ogni giorno. Tuttavia, per salvare il nostro pianeta e noi stessi, anche da noi stessi, possiamo e dobbiamo utilizzarle molto meglio; basti pensare alla diffusione di disinformazione relativa al Covid-19 sui social media o all’inefficacia delle cosiddette app per il coronavirus. La pandemia è stata la prova generale di quello che dovrebbe essere il progetto umano per il ventunesimo secolo, un matrimonio stabile e fruttuoso tra il verde e il blu. Possiamo farne un successo insieme e facendo affidamento su più e migliore filosofia, non su meno.

Il ruolo della filosofia come design concettuale

Per un certo tempo, il divario umano/macchina è stata la frontiera del cyberspazio. Oggi ci siamo spostati all’interno dell’infosfera. La sua natura onnicomprensiva dipende anche dalla misura in cui accettiamo la sua natura digitale come parte integrante della nostra realtà e come trasparente per noi, nel senso che non la percepiamo più come presente. Ciò che conta non sono tanto i bit in movimento invece degli atomi – questa è un’interpretazione della società dell’informazione obsoleta e basata sulla comunicazione che deve troppo alla sociologia dei mass media – quanto piuttosto il fatto molto più radicale che il nostro modo di comprendere e concepire l’essenza e il tessuto della realtà sta cambiando. In effetti, abbiamo cominciato ad accettare il virtuale come parzialmente reale e il reale come parzialmente virtuale. La società dell’informazione è concepita più adeguatamente come società neomanifatturiera in cui materie prime ed energia sono state sostituite da dati e informazioni, il nuovo oro digitale e la vera fonte di valore aggiunto. Le chiavi per una corretta comprensione della nostra situazione e per lo sviluppo di un’infosfera sostenibile non risiedono dunque solo nella comunicazione e nelle transazioni, ma nella creazione, nel design e nella gestione delle informazioni.

Tale comprensione richiede una nuova narrazione, ossia un nuovo tipo di storia che raccontiamo a noi stessi sulla nostra situazione e sul progetto umano che desideriamo perseguire. Questo può sembrare un passo anacronistico nella direzione sbagliata. Fino a poco tempo fa, le “grandi narrazioni”, dal marxismo al liberalismo, alla cosiddetta “fine della storia”, sono state oggetto di numerose critiche. Ma la verità è che anche tale critica era solo un’altra narrazione, e non ha funzionato. Una critica sistematica delle grandi narrazioni è fatalmente parte del problema che cerca di risolvere. Capire perché ci sono narrazioni, che cosa le giustifica e quali narrazioni migliori possono sostituirle è un modo meno immaturo e più fruttuoso di procedere. Le ICT stanno creando il nuovo ambiente informazionale in cui le generazioni future vivranno la maggior parte del loro tempo. Le precedenti rivoluzioni nella creazione di ricchezza, in particolare quella agricola e industriale, hanno portato a trasformazioni macroscopiche nelle nostre strutture sociali e politiche e negli ambienti architettonici, spesso in modo imprevisto e, di regola, con profonde implicazioni concettuali ed etiche. La rivoluzione dell’informazione – intesa sia in termini di creazione di ricchezza sia in termini di riconcettualizzazione di noi stessi – non è meno decisiva. Avremo grossi problemi, se non prendiamo sul serio il fatto che stiamo costruendo i nuovi ambienti che saranno abitati dalle generazioni future.

Alla luce di questo importante cambiamento nel tipo di interazioni, mediate dalle ICT, che intraprenderemo sempre più con altri agenti, sia biologici sia artificiali, e nella comprensione di noi stessi, un approccio etico è essenziale per affrontare le nuove sfide poste dalle ICT. Deve essere un approccio che non privilegi il naturale o l’incontaminato, ma tratti come autentiche e genuine tutte le forme di esistenza e comportamento, anche quelle basate su artefatti artificiali, sintetici, ibridi e ingegnerizzati. Il compito è quello di formulare un quadro etico che possa trattare l’infosfera come un nuovo ambiente degno dell’attenzione morale e della cura degli inforg umani che lo abitano. Un simile quadro etico deve affrontare e risolvere le sfide senza precedenti che sorgono nel nuovo ambiente. Deve essere un’etica e-cologica per l’intera infosfera. Questa sorta di e-cologismo sintetico (sia nel senso di olistico o inclusivo, sia nel senso di artificiale) richiederà un cambiamento nel modo in cui percepiamo noi stessi e i nostri ruoli rispetto alla realtà, in ciò che reputiamo degno di rispetto e cura, e nel modo in cui potremmo negoziare una nuova alleanza tra il naturale e l’artificiale. Ciò richiederà una seria riflessione sul progetto umano e una revisione critica delle nostre attuali narrazioni, a livello individuale, sociale e politico. Sono tutte questioni urgenti che meritano la nostra piena e totale attenzione. Purtroppo, temo che ci vorrà del tempo e un nuovo tipo di educazione e sensibilità per rendersi conto che l’infosfera è uno spazio comune, che deve essere preservato a beneficio di tutti. La filosofia come design concettuale dovrebbe contribuire a tale cambiamento di prospettiva e dei nostri sforzi costruttivi. Dovrebbe anche aiutarci a mutare la comprensione che abbiamo di noi stessi, in quanto bellissimo errore di Natura.

Il bellissimo errore di natura

Galileo riteneva che la natura fosse come un libro, scritto in simboli matematici, per essere letto dalla scienza. Poteva essere una forzatura metaforica ai suoi tempi, ma oggi il mondo in cui viviamo è certamente sempre più un libro scritto in cifre, per essere letto ed esteso dall’informatica e dalla scienza dei dati. Le tecnologie digitali hanno sempre più successo al suo interno perché, come i pesci nel mare, sono i veri nativi dell’infosfera. Ciò spiega anche perché le applicazioni di IA sono migliori di noi in un numero crescente di compiti: noi siamo semplici organismi analogici che cercano di adattarsi a un habitat così nuovo vivendo onlife. La trasformazione epocale del nostro ambiente in un’infosfera mista, sia analogica sia digitale, e il fatto di condividere l’infosfera con agenti artificiali sempre più smart, autonomi e sociali, ha profonde conseguenze. Alcune di queste non sono ancora distinguibili. Le scopriremo solo con il tempo. Altre sono appena riconoscibili all’orizzonte. Ed altre ancora sono davanti ai nostri occhi. Cominciamo da queste.

Gli agenti di IA, siano essi software (app, webbot, algoritmi, software di ogni genere) o hardware (robot, auto senza conducente, orologi intelligenti e gadget di ogni genere) stanno sostituendo gli agenti umani in ambiti che pensavamo fossero al di fuori della portata di qualsiasi tecnologia fino a pochi anni fa: catalogare immagini, tradurre documenti, interpretare radiografie, pilotare droni, estrarre nuove informazioni da enormi quantità di dati e molte altre cose che solo i colletti bianchi avrebbero dovuto fare. I colletti marroni in agricoltura e quelli blu nell’industria avvertono da decenni la pressione del digitale; i servizi sono ora il nuovo target. Perciò, spariranno anche i posti di lavoro dei colletti bianchi. Possiamo solo tentare di fare una stima ragionevole di quanti ne spariranno e con quale rapidità, ma è probabile che lo sconvolgimento sia profondo.

Ovunque gli esseri umani lavorino oggi come interfacce, per esempio tra un GPS e un’automobile, tra due documenti in lingue diverse, tra alcuni ingredienti e un piatto, tra i sintomi e la malattia corrispondente, quel lavoro è a rischio. Al contempo, appariranno nuovi lavori – li ho chiamati colletti verdi – perché saranno necessarie nuove interfacce, tra i servizi forniti dai computer, tra i siti web, tra le applicazioni di IA, tra i risultati dell’IA e così via. Qualcuno dovrà controllare se una traduzione abbastanza buona sia una traduzione sufficientemente affidabile. Molte attività resteranno troppo costose per le applicazioni di IA, pur ammettendo che siano realizzabili con l’IA. Consideriamo il caso di Amazon. Fornisce “l’accesso a più di 500.000 lavoratori provenienti da 190 paesi”, i cosiddetti turchi, definiti anche da Amazon come “intelligenza artificiale [sic] artificiale”. La ripetizione è indicativa: si tratta di lavori che non richiedono intelligenza pagati pochi centesimi.

Non è il tipo di lavoro che potremmo desiderare per i nostri figli, ma è comunque un lavoro di cui molte persone hanno bisogno e che non possono rifiutare. Se non elaboreremo migliori quadri normativi giuridici ed etici, l’IA creerà ulteriori polarizzazioni nella nostra società, specialmente tra i pochi al di sopra delle macchine – i nuovi patrizi – e coloro che stanno al di sotto di esse – la nuova plebe. Con i posti di lavoro, diminuiranno anche le tasse, anche se ciò accadrà un po’ più avanti nel futuro. Nessun lavoratore, nessun contribuente, questo è ovvio; e le aziende che sfrutteranno la delegazione di compiti all’IA non saranno generose come i loro ex dipendenti allorché si tratterà di sostenere il benessere sociale. Occorrerà fare qualcosa al riguardo, facendo pagare più tasse alle aziende e ai benestanti. Le norme giocheranno un ruolo importante anche nel determinare quali lavori dovranno essere mantenuti “umani”. I treni a guida autonoma sono una rarità anche per ragioni normative, eppure sono molto più facili da gestire rispetto ai taxi o agli autobus senza conducente. Chiaramente le regole contribuiranno in modo significativo al modo in cui disegniamo il futuro della nostra infosfera. Prima di considerare le conseguenze palesi, occorrono due ultime precisazioni. Molti compiti che scompariranno non faranno sparire i lavori corrispondenti: i giardinieri assistiti da uno dei tanti robot tosaerba esistenti avranno semplicemente più tempo per fare altre cose, diverse dal tagliare l’erba. Nessun robot li sostituirà. E molti compiti non scompariranno, verranno semplicemente riaffidati a noi come utenti: premiamo già i pulsanti dell’ascensore (quel lavoro non esiste più), siamo sempre più abituati a scansionare la merce al supermercato (anche il lavoro di cassa sta per sparire) e faremo certamente più lavori in prima persona in futuro.

Che cosa dire delle altre conseguenze appena distinguibili all’orizzonte, quando l’IA non sarà più in mano a tecnici e manager, ma “democratizzata” nelle tasche di miliardi di persone? Al riguardo, posso essere soltanto piuttosto astratto e incerto. L’IA e più in generale gli agenti smart, autonomi e sociali, così come gli strumenti predittivi in grado di anticipare e manipolare le decisioni e le scelte umane offrono un’opportunità storica per ripensare l’eccezionalità umana non come qualcosa di errato quanto piuttosto come qualcosa di mal compreso. I nostri comportamenti intelligenti saranno messi alla prova dai comportamenti smart dell’IA, che possono risultare più efficaci nell’infosfera in termini di adattamento. I nostri comportamenti autonomi saranno messi alla prova dalla prevedibilità e manipolabilità delle nostre scelte razionali e dallo sviluppo dell’autonomia artificiale. E anche la nostra socievolezza sarà messa alla prova dalla sua controparte artificiale, rappresentata da compagni artificiali, ologrammi o semplici voci, servitori 3D o robot sessuali simili a umani, che possono essere attraenti per gli umani e talvolta indistinguibili da loro. Come andrà a finire tutto questo non è chiaro, ma una cosa è certa: lo sviluppo di agenti artificiali non darà luogo ad alcuna allarmante creazione di scenari fantascientifici, che sono irresponsabilmente fuorvianti. Non c’è alcun Terminator in vista. L’IA è pressoché un ossimoro: le tecnologie smart saranno tanto stupide quanto le nostre vecchie tecnologie. Ma l’IA ci inviterà a riflettere più seriamente e con minore compiacimento su chi siamo, potremmo essere o vorremmo diventare, e quindi sulle nostre responsabilità e sulla comprensione che abbiamo di noi stessi. L’IA sfiderà profondamente il nostro modo di concepire ciò che intendiamo quando ci percepiamo come “speciali” dopo la quarta rivoluzione. Non sto sostenendo che il nostro eccezionalismo sia errato. Suggerisco piuttosto che l’IA ci farà rendere conto che il nostro essere eccezionali risiede in un modo speciale e forse irriproducibile di essere disfunzionali con successo. Siamo un hapax legomenon nel Libro della Natura di Galileo, un po’ come l’espressione gopher (“legno di cipresso”), che si riferisce al materiale originario con cui è stata costruita l’arca di Noè e che ricorre una sola volta in tutta la Bibbia. Con una metafora più digitale e contemporanea, siamo un bellissimo errore nel grande software dell’universo, non l’app di maggior successo. Resteremo un bug, un errore unico e riuscito, mentre l’IA sarà ancora di più un elemento peculiare nel libro matematico della natura di Galileo.

@RIPRODUZIONE RISERVATA

Articolo 1 di 4