Questo sito web utilizza cookie tecnici e, previo Suo consenso, cookie di profilazione, nostri e di terze parti. Chiudendo questo banner, scorrendo questa pagina o cliccando qualunque suo elemento acconsente all'uso dei cookie. Leggi la nostra Cookie Policy per esteso.OK

la sentenza

Il robot decide, ma all’Uomo l’ultima parola

I principi del nostro ordinamento prevalgono sulle logiche di ottimizzazione e velocizzazione procedurale favorita da un algoritmo. Le decisioni “robotizzate” devono quindi essere monitorate dall’uomo: una sentenza del Consiglio di Stato sulle graduatorie insegnanti spinge a riflettere sul futuro rapporto uomo-macchina

23 Apr 2019

Rita Eva Cresci

Studio Legale Ferraro Giove & Associati

Giustizia digitale

Il Consiglio di Stato ad aprile ha preso posizione sulle decisioni “automatizzate”, quelle prese cioè da un algoritmo, nello specifico in merito alle graduatorie insegnanti. Ed è una sentenza che merita riflessione, statuendo tra le altre cose che le decisioni prese dall’algoritmo (pur avendo una funzione di supporto dell’attività umana) non possono essere motivo di elusione dei principi alla base del nostro ordinamento (che regolano lo svolgersi dell’attività, nel caso di specie, amministrativa).

La relazione tra lavoro umano e lavoro della macchina

La sentenza n. 2270 del 8 aprile si inserisce quindi in un ambito di cui non si parla mai abbastanza, a mio avviso, ovvero quello dell’indagine sulla relazione profonda che sta nascendo tra il lavoro umano e quello delle macchine, dimensione che comincia ad avere una sostanziale rilevanza, non solo in termini etico-filosofici, ma anche pratici e concreti.

La massima autorità della giustizia amministrativa del Paese si è espressa, in maniera emblematica e coraggiosa, sul tema dell’impatto delle tecnologie emergenti in punto “governance decisionale”, funzione costituzionalmente demandata nel nostro ordinamento alla magistratura di ogni ordine e grado.

L’oggetto della sentenza del Consiglio di Stato

La decisione, nello specifico, riguarda una vertenza che vedeva un gruppo di insegnanti attivarsi contro il Ministero della Pubblica Istruzione per aver quest’ultimo gestito, sulla base di uno specifico algoritmo (e quindi attraverso un processo automatizzato), la formazione delle graduatorie in cui erano coinvolti gli insegnanti in questione. In pratica i ricorrenti lamentavano un erroneo processo di lavorazione delle informazioni da parte del sistema utilizzato, che li aveva condotti ad un posizionamento ingiustamente sfavorevole rispetto ad altri colleghi, oggettivamente meno “skillati” ed esperti, con conseguenti assegnazioni di cattedre del tutto illogiche se non addirittura paradossali.

Il confronto tra giudice umano e la performance della macchina

Non mi sono mai occupata di giustizia amministrativa e non comincerò certo in questa sede a farlo. Mi occupo, invece, con passione, di innovazione in ambito legale e la mia riflessione si pone come obiettivo, istintivamente, il confronto tra la rappresentazione del potere decisionale tradizionalmente inteso (l’uomo, nella veste di giudice) e la performance della macchina: specie in ambito processuale, dobbiamo, infatti, cominciare a capire come qualificare questo neo-dualismo, come assecondarlo e, soprattutto, come metabolizzarlo correttamente.

La sentenza, a mio avviso, rappresenta uno dei primi tentativi nel contesto giurisdizionale, di dare un senso trasversale alla genesi del “dovere/potere di giudizio”, lo sforzo di prendere atto dell’urgenza di delimitare ruoli e confini. Una risposta alla necessità, propria di questo momento storico, di ritrovare il primo mobile, indagando su un ordine preordinato che non può non vedere – forse solo perché non siamo in grado di immaginare una diversa scala valoriale – l’intelletto umano al primo posto.

La pronuncia, dicevo, è, a mio avviso, preziosa, perché sembra anche voler indicare, e in maniera molto netta, come la funzione della tecnologia, dell’automazione, così come la progressiva assenza dell’intervento umano in molte attività sia meramente operative, che cosiddette “di pensiero”, trovi il suo limite nei principi informatori su cui è stato costruito il nostro palinsesto istituzionale/sociale/culturale (ragionevolezza, trasparenza, imparzialità, logicità, pubblicità ecc.), concetti inviolabili, ben superiori ad ogni logica di ottimizzazione e velocizzazione procedurale, che, secondo i giudici del Consiglio, mai potranno essere messi in dubbio o, ancor peggio, prevaricati, in nome del riconoscimento di una sorta di potere auto-deterministico della macchina.

Gli insegnanti hanno trovato, dunque, l’accoglimento delle loro tesi difensive, con buona pace di sviluppatori e informatici.

Tre motivi di riflessione

Ma perché questa sentenza merita il tempo di qualche riflessione più profonda?

Almeno per tre motivi:

  • perché forse per la prima volta un giudice italiano prende posizione sulle procedure “robotizzate”, dichiarando che queste, pur avendo una precipua funzione supportiva dell’attività umana, tuttavia, non possono essere motivo di elusione dei principi che informano il nostro ordinamento e che regolano lo svolgersi dell’attività, nel caso di specie, amministrativa. Viene così salvato il valore assoluto della norma e un approccio interpretativo improntato ai fondanti elencati poco prima, che non esimerà il giudice dalla profonda comprensione dell’applicativo informatico impiegato nell’iter di lavoro, a partire dalla sua costruzione, all’inserimento dei dati, compresa la loro validità e lavorazione.
  • perché pur dando ampio risalto alle implicazioni positive che gli strumenti di e-governance oggi consentono specie in ambito pubblico fatto di grandi numeri (velocità di analisi, oggettività di giudizio, dispersione della discrezionalità, accuratezza di risultato), sottolinea che le regole con cui vengono creati gli algoritmi sono pur sempre frutto dell’attività umana. Di fatto sottraendoci, così, all’istintiva tentazione di riconoscere alla macchina un (equivocabile) potere di autorevolezza endogena, che in realtà la macchina fino in fondo non possiede (…ancora?).
  • da ultimo perché, apertis verbis, sancisce che la regola algoritmica, e quindi il lavoro sottratto all’uomo, devono essere non solo conoscibili in sé, ma anche soggetti alla piena cognizione e al pieno sindacato del giudice (e quindi dell’Uomo), riconducendo il “prodotto” della macchina ad una sofisticata elaborazione di servizio, che, per quanto utile, non solo è controvertibile ma sempre doverosamente monitorabile.

Al dunque, in questa sentenza, io leggo tra le righe una chiave interpretativa altamente illuminante: semper necesse est hominem sapere.

@RIPRODUZIONE RISERVATA

Articolo 1 di 3