intelligenza artificiale

Nell’era degli algoritmi, solo l’etica può salvare l’umanità: ecco perché

Le tecnologie non sono neutre, gli algoritmi rischiano di trasformare il web da opportunità in somma di solitudini molto condizionabili. L’intelligenza artificiale porta con sé inevitabili dilemmi etici: pensiamo allo sviluppo di guerrieri robot. L’unico modo per restare umani è preservare la nostra capacità di scegliere

27 Giu 2018
Norberto Patrignani

Politecnico di Torino

intelligence_673672549

Ormai in ogni articolo, convegno, evento dedicato all’intelligenza artificiale emerge il tema dell’etica, soprattutto quando entrano in gioco i “titani del web” (Magnani, 2018). Sarà una moda, oppure la necessità di chiarire la propria posizione di fronte all’opinione pubblica dopo gli ultimi scandali legati all’utilizzo del Big Data per condizionare elezioni politiche? (Patrignani, 2018).

Perché serve la figura del “critico tecnologico”

In molti casi emerge forte il bisogno di una nuova figura: il critico tecnologico. Abbiamo il critico letterario, il critico cinematografico, il critico d’arte, etc. ebbene avremo presto bisogno anche del critico tecnologico: una persona esperta di tecnologia e società che ci aiuti a capire come questi due dominii si plasmano a vicenda, che la tecnologia non è neutra, e che non dobbiamo per forza accettare tutte le pressioni provenienti dai venditori di tecnologie (il famoso “technology push“) per correre ad acquistare l’ultimo prodotto, l’ultima mirabilia tecnologica, a prescindere dal suo impatto sociale e ambientale.

WHITEPAPER
La RPA in 9 step: da dove si comincia?
Intelligenza Artificiale
Realtà virtuale

Intelligenza artificiale, ecco la via dell’Europa: governance, etica, ricerca (ma pochi soldi)

Gli algoritmi non sono neutri

Una persona che ci aiuti a capire che non è vero che gli algoritmi sono neutri solo perché basati su molta matematica, il cosiddetto “mathwashing (Schep, 2018). Chi progetta un algoritmo (che verrà poi eseguito dal computer) fa comunque delle scelte, volontariamente o involontariamente. Questo avrà delle conseguenze sulle persone che usano queste tecnologie (pensiamo ai social network): o perché si affidano ciecamente a queste (“l’ho letto su …“) oppure perché manca un solido approccio scientifico. Come ci insegna la grande scienziata Isabelle Stengers, una posizione scientifica è affidabile e solida non perché gli scienziati sono oggettivi, ma perché tale posizione è stata esposta alle esigenti e approfondite obiezioni di colleghe competenti preoccupate di verificare la sua affidabilità (Stengers, 2018). In quest’ultimo caso l’algoritmo viene considerato affidabile solo perché è stato esposto ad una quantità gigantesca di dati.

I limiti della “calibrazione” degli algoritmi

Ma questo implica solo che l’algoritmo è stato “calibrato” con molti dati: ad esempio più una persona usa un social network più la piattaforma calibrerà le visualizzazioni personalizzandole sempre di più. Il Web, nato come fantastico strumento di accesso alla conoscenza (Web 1.0) e grande opportunità di costruzione di comunità (Web 2.0), rischia di trasformarsi in una sommatoria di solitudini molto condizionabili. La calibrazione dell’algoritmo permette spesso di trovare delle correlazioni tra eventi (ad esempio le scelte o preferenze di una persona ed i prodotti da offrire alla stessa) ma correlare eventi è molto diverso dal trovare le cause di un evento. Come dimostrò John Snow (1813-1858), fondatore della moderna epidemiologia che trovò l’origine della diffusione del colera a Londra nel 1854, correlare dati a volte è molto utile: correlando la mappa della diffusione della malattia nei quartieri della città con la mappa delle fontane trovò l’origine nel quartiere di Soho e validò per la prima volta l’ipotesi che l’acqua è il mezzo fondamentale di trasmissione del colera. Ma correlare dati (anche con algoritmi sofisticatissimi) non significa trovare relazione di causa-effetto tra eventi. Può solo aiutarci nella guida euristica delle nostre scelte di indagine. Non possiamo equiparare una correlazione statistica con una causa. La scienza non può essere delegata all’analisi di Big Data, seppur definita “intelligenza artificiale” mascherata da mathwashing.

Intelligenza artificiale e dilemmi etici

Ma dilemmi etici ancora più profondi nascono quando deleghiamo alla macchina, dotata della cosiddetta “intelligenza artificiale”, decisioni life-critical, come ad esempio negli sviluppi del robot guerriero.

Questo tema diventerà cruciale nei prossimi mesi: in novembre a Ginevra verrà discussa la proposta di moratoria internazionale per impedire la proliferazione di armi letali autonome (ICRAC, 2018). L’associazione italiana Informatici Senza Frontiere si è recentemente espressa con un no deciso all’utilizzo di robot e intelligenza artificiale a fini militari (DataManager, 2018). E questo è solo un primo drammatico segnale dell’urgenza di un’etica, una deontologia professionale per i professionisti informatici coinvolti negli sviluppi della cosiddetta “intelligenza artificiale”: quali saranno i principi guida, i valori che guideranno i programmatori nella definizione degli algoritmi da far eseguire alla macchina? Forse è arrivato il momento di andare a rileggere Joe Weizenbaum (1923-2008), uno dei primi scienziati dei computer ad interessarsi alle questioni etiche legate alla diffusione delle tecnologie dell’informazione. Nel suo libro più famoso “Il potere del computer e la ragione umana, i limiti dell’intelligenza artificiale” invita i colleghi ricercatori e professionisti dei computer a non confondere “decisioni” con “scelte”.

Decisioni o scelte, la differenza è fondamentale

Le “decisioni” entrano in gioco in situazioni che possono esser ricondotte ad un’attività computazionale e quindi qualcosa che può alla fine essere programmato. Le “scelte” invece sono implicite in situazioni che richiedono agli umani una profonda riflessione: prima di fare una scelta (che evidentemente non è mai neutra) come umani, facciamo ricorso alla nostra storia, alla nostra educazione, al nostro sistema di valori spesso condivisi dalla comunità: in definitiva una scelta non può essere ridotta ad un’attività computazionale, “choosing … is the product of judgment, not calculation“. Da questo discende la raccomandazione di Weizenbaum riguardo ad esempi di funzioni umane che non dovrebbero essere sostituite da computer: quelle che richiedono “judgement, respect, understanding, caring and love” (Weizenbaum, 1987).

Se vogliamo rimanere umani sarà proprio la nostra capacità di scegliere che ci proteggerà dal mathwashing, che ci distinguerà dalle macchine anche se saranno “artificialmente intelligenti”.

Riferimenti

– DataManager (2018), Informatici Senza Frontiere dice no ai killer robot, www.datamanager.it, 18 Aprile 2018.

– ICRACR (2018), Statement on the human control of weapons systems at the April UN Geneva meeting, https://www.icrac.net/, 11 April 2018.

– Magnani A. (2018), I Big riscoprono l’etica dell’intelligenza artificiale, Nova-Sole24Ore, 13 maggio 2018.

– Patrignani N. (2018), Data Ethics, cos’è e perché serve alla democrazia, Agenda Digitale, https://www.agendadigitale.eu/cultura-digitale/letica-al-tempo-del-big-data43126/, 3 Aprile 2018.

– Schep T. (2018), What is Mathwashing, https://www.mathwashing.com/

– Snow J. (1854), On the Mode of Communication of Cholera, London, John Churchill, New Burlington Street.

– Stengers I. (2018), Another Science is Possible. A Manifesto for Slow Science, Wiley.

– Weizenbaum J. (1987), Il potere del computer e la ragione umana. I limiti dell’intelligenza artificiale, (trad.) Tibone F., EGA-Edizioni Gruppo Abele. Titolo originale Computer Power and Human Reason: From Judgment To Calculation, San Francisco, Freeman, 1976.

Speciale PNRR

Tutti
Incentivi
Salute digitale
Formazione
Analisi
Sostenibilità
PA
Sostemibilità
Sicurezza
Digital Economy
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati