il caso nel Regno Unito

Di chi è la colpa se l’algoritmo a scuola penalizza i poveri

Ci insegna molto, sulla tecnologia ma soprattutto su di noi, la recente vicenda dell’algoritmo per il calcolo del voto finale scolastico in Gran Bretagna. Dimostratosi classista. A un esame della vicenda, risulta che la colpa non è dell’algoritmo. Che in effetti forse nemmeno è corretto chiamare tale

24 Ago 2020
Giovanni Salmeri

Università degli Studi di Roma Tor Vergata

colonialismo digitale

La recente vicenda agostana degli algoritmi per il calcolo del voto finale scolastico in Gran Bretagna è stata molto istruttiva. E induce a qualche considerazione che va molto oltre il fatto di cronaca, sul nostro ancora molto fallace rapporto con l’analisi automatizzata di dati. Un problema da cui derivano conseguenze importanti per tutti noi.

L’algoritmo e l’esame scolastico nel Regno Unito: che è successo

Una sintesi per chi avesse perduto le notizie: in mancanza di un esame finale a causa dell’emergenza sanitaria, le autorità scolastiche della Gran Bretagna hanno deciso di far ricorso ad un algoritmo per calcolare il voto finale, in maniera diversa da quella che pareva troppo banale di prendere in considerazione le votazioni finali dell’anno.

EVENTO DIGITALE
Efficienza energetica: le soluzioni offerte dal digitale per ridurre i consumi. Scopri come fare!
Blockchain
Istruzione

Quando queste valutazioni sono state partorite, vi è stata una comprensibile rivolta: circa il 40% degli studenti si è ritrovata una qualifica inferiore a quella reale, ciò che spesso avrebbe loro precluso l’accesso all’Università.

Perché l’algoritmo era classista

Dopo vibranti proteste, il sistema è stato quindi praticamente ritirato a furor di popolo (anzi, a furor di studenti). L’aspetto ancora più inquietante della vicenda è che i voti abbassati mostravano quello che appariva un pregiudizio sociale: sostanzialmente, rispetto a coloro che avevano avute sempre votazioni alte venivano puniti coloro che erano partiti da votazioni più basse: il che appunto spesso avviene non solo in chi dopo mesi di bella vita finalmente si sveglia, ma anche in chi proviene da una situazione svantaggiata e poi, con impegno maggiore degli altri, recupera il terreno. Abbasso l’algoritmo classista, insomma.

Algoritmi razzisti, ecco le cause del problema e le soluzioni in campo

Successe anche in Italia

A leggere la storia si prova anzitutto un duplice sentimento di soddisfazione. Il primo è universale e consiste nel costatare che protestare vibratamente in piazza qualche effetto a volte lo ottiene, almeno nei nostri regimi più o meno democratici (forse oggi basterebbe anche protestare sui social, chissà).

Il secondo è tutto nostrano e consiste nel costatare che la vicenda è stata quasi la fotocopia di ciò che accadde in Italia nell’estate del 2013 (qualcuno lo ricorda ancora?). Non c’era nessuna emergenza sanitaria, ma ugualmente era in ballo la questione della valutazione finale scolastica e dell’ammissione all’Università, per la quale si pensò di far valere anche il voto di maturità. Terribile problema agli occhi dei politici di allora: a quanto pare nel sud d’Italia le commissioni sono più generose e i risultati finali sono mediamente più alti. Soluzione? Affidiamoci ad un algoritmo! I risultati furono disastrosi come oggi in Gran Bretagna. Ma gli italiani, si sa, sono più tenaci, e dopo il disastro il Ministero non demorse e decise di far elaborare un secondo algoritmo da una seconda squadra di grandi esperti. Solo dopo il secondo disastro finalmente desistette. Non bisogna certo godere della sventure altrui, ma una volta tanto dà una certa soddisfazione vedere che l’errore madornale oggi commesso dalla Gran Bretagna noi italiani lo avevamo già commesso quasi identico sette anni fa.

La causa del problema

Non è sempre ovvio però che dagli errori si impari, e allora conviene capire esattamente dove esso sia. Riduciamo il problema alla sua forma elementare nella forma italiana: «Marco e Luca (o Mark e Luke se preferiamo), che hanno professori diversi, hanno preso entrambi 7 alla prova di matematica: in un caso il voto è giusto, nell’altro il voto giusto sarebbe stato 6, ma il professore era generoso. Chi dei due meritava 6?». La soluzione giusta è evidentemente: «Alla domanda è impossibile rispondere: bisognerebbe quanto meno conoscere i professori, o meglio ancora vedere i due compiti e confrontarli».

Si tratta insomma di un classico problema irresolubile per insufficienza di dati, così come lo è distinguere dai soli numeri chi parte da voti bassi per colpa propria e chi invece per responsabilità altrui. Non credo che sarebbe male se nella pratica scolastica fosse più comune assegnare, nella varie materie, esercizi di questo tipo: essi aiuterebbero a far comprendere che, prim’ancora di cercare una soluzione, bisogna verificare se si hanno a disposizione i dati necessari.

Quando questi mancano, la risposta è semplicemente impossibile. Certo: nella vita quotidiana innumerevoli volte dobbiamo prendere piccole e grandi decisioni sulla base di dati frammentari: ma altro è esservi costretti (ed essere sempre pronti a correggersi), altro farlo senza necessità e cristallizzarlo in un algoritmo che si presenta come oggettivo e indiscutibile (e in effetti lo è, perché contro di esso non si può far ricorso!).

Ma non è un algoritmo

Ma un attimo: è sicuro che si tratta di «algoritmi»? Secondo tutte le definizioni comunemente accettate di algoritmo, questi (quello britannico di oggi e quello italico di sette anni fa) non lo erano. Un algoritmo è (più o meno) una sequenza finita di istruzioni non ambigue in grado di risolvere una classe di problemi.

Quelli elaborati in queste circostanze erano sì sequenze finite di istruzioni, ma non erano affatto in grado di risolvere il problema assegnato! Prendere una quantità di dati, shakerarli con qualche formula (seppur costituita da passi ben definiti) per tirare fuori un risultato non è un algoritmo. Se nel problema precedente si calcolasse lo hash SHA-1 dei nomi dei due studenti e a seconda di quello che precede in ordine numerico si decidesse chi merita 7 e chi merita 6, si sarebbe sì stabilita una procedura di calcolo (che descritta nei suoi minimi passi ispirerebbe grande riverenza), ma questa non sarebbe un algoritmo: il risultato sarebbe affidabile tanto quanto tirare a sorte.

Questi non sono in realtà problemi nuovi, e non nascono con il prestigio che la nozione di algoritmo ha ricevuto dall’odierna pervasività dell’informatica. Nella storia c’è un grande, illustre esempio di una pseudo-scienza che ha proceduto con questi shakeramenti: l’astrologia. Essa ha potuto godere di grande stima proprio perché il suo correttissimo e complesso impianto matematico faceva dimenticare il punto fondamentale (credo anche agli occhi di chi la studiava sinceramente): che essa non risolveva minimamente il problema assegnato, che era quello di comprendere e prevedere le questioni umane.

L’abilità matematica richiesta per l’astrologia era sì di buon uso per la scienza vera, che era l’astronomia, ma non aveva appunto il minimo rapporto con i problemi posti, i cui dati erano clamorosamente insufficienti per qualsiasi risposta: e da questo punto di vista l’astrologia non solo non ha fornito risposte giuste, ma ha ritardato risposte o anche solo azioni utili (è un caso che la scienza moderna sia nata laddove l’astrologia godeva di cattiva fama?). Anche se non prendevano in considerazione moti astrali, sia lo pseudo-algoritmo britannico sia quello italico erano in fondo calcoli astrologici, non algoritmi. E purtroppo l’astrologia con il suo metodo pseudo-scientifico continua ad esercitare la sua attrazione, che non sempre (ahimè) suscita sufficienti proteste come quelle dei ragazzi imbufaliti sudditi di Sua Maestà. Chi vive nel mondo dell’Università e della ricerca ha tutti i giorni a che fare con calcoli astrologici e astrologi di corte e con la rassegnazione che li circonda: questo sarebbe un altro tema.

Ma come morale della nostra storia abbiamo almeno un ulteriore ottimo motivo per studiare informatica: ricevere gli anticorpi giusti per non accettare mai più che qualsiasi sequenza di calcoli a casaccio, o anche pensata per certi scopi e applicata per finalità diverse (l’effetto è lo stesso), venga chiamata «algoritmo», quando in realtà è solo astrologia.

@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
Salute digitale
Formazione
Analisi
Sostenibilità
PA
Sostemibilità
Sicurezza
Digital Economy
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati