CITTADINANZA DIGITALE

Diritti digitali alla prova dell’algoritmo: potenzialità e limiti

La tecnologia informatica sta modificando in profondità il campo del diritto amministrativo. Con la creazione di nuove posizioni giuridiche soggettive e amplificando le ricadute positive sul fronte socio-economico. Ma l’impiego di automatismi smart nelle procedure apre una serie di incognite. Scenario e punti critici

05 Mag 2020
Michele Deodati

responsabile SUAP ed esperto di PA digitale


Tecnologia e diritto, un rapporto sempre più strategico. Destinato a produrre effetti positivi di grande rilievo e impatto sociale nel mondo della cittadinanza digitale. C’è un nodo, però, che emerge quando lasciamo campo libero agli automatismi degli algoritmi la cui “formula nascosta” solleva non poche criticità: l’analisi.

Nuovi diritti e tecnologia

Quali sono gli effetti della sempre crescente digitalizzazione sull’esercizio delle situazioni giuridiche riconosciute a cittadini e imprese nei confronti della Pubblica amministrazione? Cercare una risposta a questo interrogativo non soddisfa soltanto esigenze teoriche, ma assume immediati risvolti pratici, che influiscono direttamente su scelte e strategie da mettere in atto per applicare la tecnologia alle modalità di esercizio dei diritti dei cittadini.

In altre parole, quando attraverso la tecnologia accediamo ad un servizio erogato dalla P.A. su una piattaforma web, dobbiamo chiederci se questa forma di accesso ai servizi, assicurando un risultato migliore in termini di tempo e di costi, comporti la nascita di nuove situazioni giuridiche a favore del privato. Dobbiamo anche chiederci quale sia la natura di tali posizioni giuridiche, quali finalità ci permettano di perseguire e quali effetti producano sui diritti e sugli interessi “sottostanti”, come il diritto di ottenere una prestazione sanitaria, di accedere ad un servizio sociale, di aprire un’attività.

E ancora, siamo certi che l’applicazione della tecnologia in maniera onnivora e totalizzante a tutto l’agire della P.A. non sia anche portatrice di conseguenze infauste, o, quanto meno, non richieda l’introduzione di particolari garanzie e paletti?

Per rispondere a questi interrogativi, ben consapevoli di osservare fenomeni in continuo divenire e della difficoltà di stare al passo con la tumultuosa evoluzione tecnologica, dobbiamo innanzitutto abbozzare una ricostruzione teorica del fenomeno che attualmente assume importanza centrale nell’ambito delle situazioni giuridiche collegate all’informatizzazione, e cioè quello dei “diritti digitali”, definendone la natura e la funzione.

Come nascono i diritti digitali

Dall’analisi del quadro normativo in materia di diritti digitali, contenuto principalmente (ma non solo) nel Codice dell’Amministrazione Digitale, emerge innanzitutto un diritto alla trasparenza digitale, per cui le P.A. sono tenute a rendere accessibili dati, documenti e procedimenti. In particolare, i dati e i documenti di proprietà delle P.A. devono essere disponibili in formato aperto, salvo che vi siano ragioni per giustificare un rilascio sotto licenza. Come vedremo, il diritto alla trasparenza digitale assume particolare rilevanza se inteso come diritto all’accessibilità, sempre informatizzata, alle informazioni necessarie per accedere a servizi e prestazioni, oppure per ottenere dall’Amministrazione gli atti di assenso necessari ad avviare un’attività.

In senso più ampio, il passaggio dall’opacità alla trasparenza, unito all’accessibilità a dati e documenti della P.A. in formato aperto, con tutte le limitazioni a tutela della riservatezza dei dati personali, permette anche l’utilizzo delle informazioni in termini socioeconomici, innescando i presupposti per la produzione di ulteriore ricchezza.

Al novero dei diritti digitali appartengono anche l’identità digitale e il domicilio digitale, strumenti tecnologici indispensabili per avviare il dialogo informatico tra cittadino e P.A.. Il primo serve ad accedere in sicurezza ai servizi, assolvendo con certezza all’onere dell’identificazione, l’altro a permettere lo scambio di informazioni da e per la P.A, attribuendoci il diritto di ricevere comunicazioni on-line, ma anche di inviare istanze o presentare richieste con questo canale, a cui si aggiunge il diritto di effettuare pagamenti in formato digitale. Tutto un altro mondo rispetto a quanto accadeva quando l’accesso ai servizi poteva essere solo fisico, dopo file interminabili allo sportello, identificandosi davanti all’operatore mediante un documento d’identità cartaceo e rimanendo in attesa di costose comunicazioni formali all’indirizzo di residenza.

Perché i nuovi diritti sono “sostanziali”

Quanto alla natura e alla funzione dei diritti digitali sopra evidenziati, emerge il loro carattere strumentale rispetto a posizioni giuridiche sottostanti dai contenuti più svariati e connessi alle esigenze della vita reale, come avviare un’attività, iscrivere un bimbo ai servizi scolastici, prenotare una visita medica, ecc. Tuttavia, per quanto i diritti digitali assolvano ad un ruolo meramente strumentale, in quanto la loro realizzazione non è fine a se stessa ma è sempre collegata alla realizzazione di altre situazioni giuridiche, la natura di tali diritti è di tipo “sostanziale”, e pertanto è possibile invocarne la tutela giuridica in quanto tali, in tutto e per tutto come se si trattasse di proteggere i diritti che abbiamo definito “sottostanti”.

Quindi, se la P.A. si rifiuta di ricevere comunicazioni sulla PEC, possiamo chiedere ad un giudice che sia obbligata a farlo, oltre a trarre dall’inadempimento conseguenze comunque a noi favorevoli, come ad esempio ritenere pervenuta la pratica di avvio lavori per un intervento edilizio, inviata a suo tempo ma non protocollata.

Semplificazione burocratica: le chiavi

Il ventaglio dei diritti digitali non si esaurisce nella sola trasparenza di dati e documenti, ma si estende anche all’accessibilità digitale ai servizi erogati dalla P.A., peraltro in stretta connessione con identità e domicilio digitale.

Per comprendere il ruolo dell’accessibilità digitale rispetto al tema degli effetti che l’informatizzazione sta producendo sui diritti del cittadino, dobbiamo analizzare il noto caso della modulistica unificata standard.

Negli ultimi anni, la realizzazione della modulistica unica in formato digitale si è imposta come uno degli esempi più rilevanti in termini di semplificazione burocratica attraverso la tecnologia. Senza la digitalizzazione, sarebbe stato impossibile creare un unico modulo per ciascuna attività economica o intervento edilizio. È vero che il salto di qualità in termini di semplificazione lo dobbiamo soprattutto alle certezze che derivano dal poter contare sull’uniformità di “contenuti” del modulo unificato: sono certo che è quello e soltanto quello il documento che dovrò compilare, e non sono richiesti ulteriori requisiti per avviare la mia attività rispetto a quelli già presenti nel modulo unico.

Tuttavia, bisogna riconoscere che senza la possibilità di reperire ed inviare on-line i moduli unificati sarebbe stato impossibile imporne l’uso in modo efficace. In mancanza dell’informatizzazione, la rivoluzione innescata dal poter disporre di un unico documento uguale ovunque per l’avvio di un intervento edilizio o per aprire un’attività economica, sarebbe rimasta letteralmente sulla carta. La digitalizzazione è stata dunque fondamentale per garantire l’accessibilità dei moduli unici, insieme alla possibilità di compilarli e inviarli da remoto.

Il valore della dematerializzazione

L’inserimento dei moduli unificati all’interno dei portali telematici ha comportato un ulteriore salto di qualità in termini di semplificazione del rapporto utente-P.A., sovvertendo il concetto stesso di “modulo” come sempre lo abbiamo conosciuto nell’ambiente della burocrazia. Il documento cartaceo “fotografato” in un file formato .doc o .pdf, per intenderci, ha perso i connotati statici del classico foglio e si è dematerializzato in un insieme di passaggi logici e percorsi successivi tracciati dalle scelte dell’utente, dando in via ad un nuovo modo di amministrare e di fare istruttoria non più basato sugli atti, ma fondato su automatismi e processi.

Il dialogo cittadino-ente diventa dinamico e si riduce alla trasmissione dei soli dati necessari per il tipo di intervento richiesto, mentre nel contesto cartaceo il modulo era per forza di cose statico, e non era possibile eliminare le parti non pertinenti al proprio caso.

WHITEPAPER
Una guida pratica alla modernizzazione del sistema EDI
Cloud
Dematerializzazione

In primo luogo, il diritto alla digitalizzazione del procedimento amministrativo si sostanzia dunque nel diritto all’accessibilità digitale dei servizi – altro diritto appartenente alla famiglia dei diritti digitali – realizzabile grazie alla possibilità di presentare una pratica mediante un portale on-line che richiede solo le informazioni strettamente necessarie per l’avvio dell’intervento richiesto, escludendo tutti i dati superflui perché relativi a casi non d’interesse, insieme a tutte le informazioni che la P.A. già possiede su un determinato soggetto (ad esempio anagrafica, titoli di studio, titoli abilitativi posseduti, ma anche localizzazione dell’intervento, precedenti edilizi, ecc.).

Portato alle estreme conseguenze, il diritto di accessibilità digitale ai servizi della P.A. ci conduce a riconoscere un ulteriore diritto, quello all’uso della migliore tecnologia possibile. Ciò significa che per iscrivere mio figlio ad un corso, pagare una sanzione, avviare un’attività o pagare un tributo, devo poter accedere ai servizi on-line mediante la tecnologia più accessibile, e cioè attraverso una App da smartphone che mi riconosca con SPID.

Dalla trasparenza all’accessibilità

È inoltre interessante notare come al progresso tecnologico applicato ai flussi informativi da e per la P.A. corrisponda in parallelo un riflesso sulla conformazione evolutiva dei diritti digitali ad esso collegati: da un generico diritto alla trasparenza digitale è nato un diritto all’accessibilità digitale dei servizi, che a sua volta ha prodotto un diritto alla migliore tecnologia possibile.

Ad accompagnare una più efficace accessibilità deve essere inoltre l’uniformità: per la richiesta dello stesso servizio i contenuti e i passaggi della procedura devono essere, a parità di condizioni, i medesimi su tutto il territorio nazionale. Con riferimento ai servizi alle imprese, non è dunque possibile per un Comune modificare l’alberatura della piattaforma (in ambiente analogico avremmo detto: modificare il modulo) aggiungendo o eliminando condizioni o requisiti. Manovre di questo tipo si risolvono in un surplus di burocrazia contrarie alle finalità del modello uniforme.

Va inoltre ricordato che la Corte costituzionale (Sent. 251/2016) ha rimarcato l’appartenenza dei diritti digitali al novero dei livelli essenziali delle prestazioni (l.e.p.) concernenti i diritti civili e sociali, da garantire in modo uniforme su tutto il territorio nazionale.

È di tutta evidenza l’effetto che il passaggio dall’amministrazione per atti cartacei all’amministrazione per processi digitali ha prodotto sulle posizioni giuridiche sottostanti, non solo attualizzandone la realizzazione mediante l’agire istantaneo degli automatismi innescati dagli algoritmi informatici, ma soprattutto ampliandone la portata grazie alle più incisive ricadute socioeconomiche, che proprio le maggiori certezze in termini di semplicità di accesso, tempi minimi, costi ridotti, sicurezza del risultato, possono garantire. Grazie all’avvento della tecnologia nel diritto amministrativo e al ruolo servente e strumentale di diritti digitali sempre più affinati e puntuali, le posizioni giuridiche dei singoli risultano rafforzate nelle modalità di esercizio e potenziate quanto agli effetti in ambito metagiuridico.

Certezza dei tempi burocratici

Se devo richiedere un finanziamento per la mia attività, sarà più facile ottenerlo se riesco a definire con chiarezza i tempi burocratici e il loro costo. Più gli sportelli della P.A. si dimostreranno evoluti e capillari nel senso di assicurare via web un’informazione preventiva efficace e pertinente, più sarà facile conoscere gli adempimenti richiesti e i tempi necessari per ottenere il risultato finale.

In definitiva, più sapremo orientare la digitalizzazione verso le certezze preventive, più sarà facile fare impresa e finanziare le proprie idee. Ecco dunque sorgere un nuovo diritto digitale a favore del cittadino-imprenditore: quello alla completezza delle informazioni preventive per l’avvio di un’attività, acquisite mediante accesso agli sportelli unici telematici. È ovvio che la possibilità di reperire tali informazioni in tempo reale, da remoto e gratuitamente (salvo il costo di una connessione internet), costituisce una condizione di effettività non rinunciabile.

Gli esempi potrebbero continuare con riferimento a molti altri servizi erogati dalle amministrazioni pubbliche, che se accessibili in base alle migliori condizioni tecnologiche, diventerebbero più competitivi rispetto ai servizi privati, quando presenti e assimilabili, realizzando più effettive condizioni di eguaglianza tra cittadini.

Cittadino-PA, rapporto ad armi pari

Un’amministrazione più accessibile e trasparente è in grado di interloquire con il cittadino assicurando quella “parità delle armi” che da sempre rappresenta la base fondante della procedimentalizzazione dell’attività amministrativa. Conoscere in tempo reale la posizione della P.A. rispetto ai nostri interessi ci aiuta a reagire in tempi e modi altrettanto rapidi, conservando risorse o evitando di perderne altre.

Anche sotto questo aspetto, emerge con netta chiarezza il potenziamento che grazie al contesto tecnologico digitale assumono i normali strumenti riconosciuti al privato nell’ambito dell’istruttoria amministrativa. Ne escono sicuramente rafforzati il diritto a presentare istanze e integrazioni, a chiedere chiarimenti, a ottenere atti entro dati termini, a poter contare su determinate certezze e decadenze, e così via.

L’algoritmo come “atto amministrativo”

Ma la diffusione capillare della tecnologia informatica nell’attività amministrativa, con tutti i suoi riflessi positivi sul potenziamento dei diritti sottostanti, è una medaglia che presenta anche un suo rovescio. A governare gli automatismi che rendono i processi così immediati e certi, rendendo il dialogo tra cittadino e P.A. molto più rapido e “comodo”, sono gli algoritmi informatici, un insieme di operazioni preimpostate e poi applicate N volte ai casi concreti.

L’enorme rapidità con cui lavorano le macchine, unita alla possibilità di superare il rischio inevitabile dell’errore umano, ha comportato la grande fortuna dei sistemi basati su automatismi connessi all’uso di algoritmi informatici, al punto da sostituirsi completamente all’uomo nello svolgimento dell’istruttoria amministrativa. I servizi pubblici caratterizzati da migliaia di istanze tutte uguali, e dunque connesse ad attività ripetitive prive di discrezionalità, sono gli ambiti caratterizzati dalla maggiore diffusione degli automatismi algoritmici.

Le note vicende che hanno interessato i concorsi in ambito scolastico hanno però evidenziato che il modo di “ragionare” degli algoritmi non conduce sempre a soluzioni infallibili, ma può portare a risultati abnormi e a distorsioni che appaiono in netta contraddizione rispetto all’agire imparziale che dovrebbe essere alla base di un qualunque automatismo informatico. Il punto è che l’algoritmo informatico, per quanto sia solitamente studiato per affrontare anche i casi-limite e le ipotesi più varie, non offre un’affidabilità assoluta. Nello specifico, va chiarito che la regola tecnica che governa ciascun algoritmo deve restare pur sempre una regola amministrativa generale, costruita dall’uomo e non dalla macchina, per essere poi solo applicata da quest’ultima.

A fianco di suggestioni che vorrebbero un mondo sempre più governato dall’I.A., non mancano posizioni critiche che invece puntano sull’importanza di conservare una dimensione umana a presidio del margine di manovra concesso alle macchine. Tornando all’esempio degli algoritmi impiegati al posto dell’uomo per gestire istruttorie amministrative dai numeri esponenziali, la Giurisprudenza ha individuato i seguenti requisiti della regola algoritmica per ritenerla legittima:

  • possiede una piena valenza giuridica e amministrativa, anche se viene declinata in forma matematica, e come tale deve soggiacere ai principi generali dell’attività amministrativa: pubblicità, trasparenza, ragionevolezza, proporzionalità, ecc.;
  • non può lasciare spazi applicativi discrezionali, che restano estranei all’elaboratore elettronico, ma deve prevedere con ragionevolezza una soluzione definita per tutti i casi possibili, anche i più improbabili (e ciò la rende in parte diversa da molte regole amministrative generali); la discrezionalità amministrativa, se senz’altro non può essere demandata al software, è quindi da rintracciarsi al momento dell’elaborazione dello strumento digitale;
  • richiede sempre che sia l’amministrazione a compiere un ruolo ex ante di mediazione e composizione di interessi, anche per mezzo di costanti test, aggiornamenti e modalità di perfezionamento dell’algoritmo (soprattutto nel caso di apprendimento progressivo e di deep learning);
  • deve contemplare la possibilità che sia il giudice a dover svolgere, per la prima volta sul piano ‘umano’, valutazioni e accertamenti fatti direttamente in via automatica, con la conseguenza che la decisione robotizzata esige che il giudice valuti la correttezza del processo automatizzato in tutti i suoi aspetti. L’algoritmo, ossia il software, deve essere considerato a tutti gli effetti come un “atto amministrativo informatico”.

Il nodo della “segretezza”

Emerge dunque con evidenza che il tratto di maggiore criticità assunto dagli algoritmi risiede nella loro segretezza, unita alla capacità di prendere decisioni in autonomia connotate da un certo margine di discrezionalità.

L’ultima Giurisprudenza (Consiglio di Stato, n. 8472/2019) ha individuato due elementi di garanzia minima per poter utilizzare algoritmi informatici alla base di decisioni pubbliche:

  • la piena conoscibilità a monte del modulo utilizzato e dei criteri applicati, attraverso il principio della trasparenza;
  • l’imputabilità della decisione all’organo titolare del potere, il quale deve poter svolgere la necessaria verifica di logicità e legittimità della scelta e degli esiti affidati all’algoritmo.

Il meccanismo attraverso il quale si concretizza la decisione robotizzata, e cioè l’algoritmo, deve essere “conoscibile” da parte degli organi della P.A. come dai destinatari privati, secondo una declinazione rafforzata del principio di trasparenza che implica anche quello della piena conoscibilità di una regola espressa in un linguaggio differente da quello giuridico.

Tale conoscibilità dell’algoritmo deve essere garantita in tutti gli aspetti: dai suoi autori al procedimento usato per la sua elaborazione, al meccanismo di decisione, comprensivo delle priorità assegnate nella procedura valutativa e decisionale e dei dati selezionati come rilevanti. Ciò al fine di poter verificare che i criteri, i presupposti e gli esiti del procedimento robotizzato siano conformi alle prescrizioni e alle finalità stabilite dalla legge o dalla stessa amministrazione a monte di tale procedimento.

La “caratterizzazione multidisciplinare” dell’algoritmo – per la cui costruzione non bastano solo competenze giuridiche, ma anche tecniche, informatiche, statistiche e amministrative – non esime dalla necessità che la “formula tecnica”, che di fatto rappresenta l’algoritmo, sia corredata da spiegazioni che la traducano nella “regola giuridica” ad essa sottesa e che la rendano leggibile e comprensibile. Questi principi di trasparenza sono talmente prevalenti, da non ammettere spazio all’invocata riservatezza delle imprese produttrici dei meccanismi informatici utilizzati.

Algoritmo: il tema dell’imputabilità

Il tema dell’individuazione del soggetto responsabile anche in termini di danni causati dal processo automatizzato, è stato affrontato dalla Giurisprudenza esigendo la garanzia della verifica a valle, in termini di logicità e di correttezza degli esiti. Ciò a presidio dell’imputabilità della scelta al titolare del potere autoritativo, individuato in base al principio di legalità, nonché della verifica circa la conseguente identificazione del soggetto responsabile, sia nell’interesse della stessa p.a. che dei soggetti coinvolti ed incisi dall’azione amministrativa affidata all’algoritmo.

Interessante, a tal proposito, quanto si legge nella Carta della Robotica, approvata nel febbraio del 2017 dal Parlamento Europeo: “l’autonomia di un robot può essere definita come la capacità di prendere decisioni e metterle in atto nel mondo esterno, indipendentemente da un controllo o un’influenza esterna; (…) tale autonomia è di natura puramente tecnologica e il suo livello dipende dal grado di complessità con cui è stata progettata l’interazione di un robot con l’ambiente; (…) nell’ipotesi in cui un robot possa prendere decisioni autonome, le norme tradizionali non sono sufficienti per attivare la responsabilità per i danni causati da un robot, in quanto non consentirebbero di determinare qual è il soggetto cui incombe la responsabilità del risarcimento né di esigere da tale soggetto la riparazione dei danni causati”.

Algoritmi e tutela dei dati personali

Altre ombre che si addensano sull’uso degli automatismi connessi ad algoritmi informatici le troviamo sul fronte della tutela dei dati personali. Nelle attività di trattamento dei dati personali, possono essere individuate attualmente due differenti tipologie di processi decisionali automatizzati: quelli che contemplano un coinvolgimento umano e quelli che, al contrario, affidano al solo algoritmo l’intero procedimento. In proposito, il Regolamento europeo 2016/679 (GDPR) si pone l’obiettivo di arginare il rischio di trattamenti discriminatori per l’individuo, che trovino la propria origine in una cieca fiducia nell’utilizzo degli algoritmi.

Gli articoli 13 e 14 del Regolamento stabiliscono che nell’informativa rivolta all’interessato venga data notizia dell’eventuale esecuzione di un processo decisionale automatizzato, sia che la raccolta dei dati venga effettuata direttamente presso l’interessato sia che venga compiuta in via indiretta.

Una garanzia di particolare rilievo viene riconosciuta allorché il processo sia interamente automatizzato essendo richiesto, almeno in simili ipotesi, che il titolare debba fornire “informazioni significative sulla logica utilizzata, nonché l’importanza e le conseguenze previste di tale trattamento per l’interessato” . L’interesse conoscitivo della persona è ulteriormente tutelato dal diritto di accesso riconosciuto dall’articolo 15 del Regolamento, che contempla la possibilità di ricevere informazioni relative all’esistenza di eventuali processi decisionali automatizzati.

Qui però non siamo di fronte ad un obbligo informativo gravante sul titolare del trattamento, ma ad un diritto azionabile dall’interessato, al fine di consentirgli l’acquisizione di informazioni anche qualora il trattamento abbia avuto inizio, stia trovando esecuzione o abbia addirittura già prodotto una decisione.

I diritti “tecnologicamente modificati”

Alla luce delle considerazioni svolte, abbiamo dunque risposto agli interrogativi iniziali: l’avvento della tecnologia informatica nel campo del diritto amministrativo ha comportato la nascita di nuove posizioni soggettive, i c.d. “diritti digitali”, che se da un lato hanno natura di diritti sostanziali e non solo processuali, potendo ricevere protezione di per sé, dall’altro svolgono una funzione servente e strumentale nei confronti dei diritti “sottostanti”, al cui esercizio si riconducono direttamente le esigenze e i bisogni dei cittadini.

Non solo: l’applicazione dei diritti digitali comporta che i diritti sottostanti risultino tecnologicamente modificati, mediante un rafforzamento e un potenziamento a livello di esercizio, sia in termini di attualità della loro realizzazione, sia per le più ampie ricadute in termini socioeconomici e di miglioramento della qualità di vita che ne derivano.

Può dirsi dunque superato il dibattito filosofico, in voga qualche decennio fa, secondo cui il diritto rimane indifferente alla tecnologia (Irti). L’affermarsi dei diritti digitali e i risvolti che l’avvento della tecnologia comporta sui diritti sostanziali dei privati, suggeriscono prospettive opposte a tali conclusioni, evidenziando effetti positivi di grande rilievo ed impatto sociale, insieme però alle tante criticità e ai forti dubbi che sembrano emergere quando decidiamo di lasciare campo libero agli automatismi degli algoritmi informatici. Il punto è che le macchine non sono ancora in grado di approntare la migliore soluzione in ogni circostanza, e se in futuro lo diventeranno, non riusciranno mai a ragionare in termini di “buon senso”, prerogativa destinata a rimanere, anche un domani, esclusivo appannaggio delle instabili, fallibili e limitate capacità umane.

WHITEPAPER
Telemedicina: come attivare una valida rete ospedale-medici-territorio
PA
Sanità

@RIPRODUZIONE RISERVATA

Articolo 1 di 4