IA nella pubblica amministrazione: come usarla in modo etico e responsabile

Il mondo giuridico è ultimamente percorso da profonde sollecitazioni provenienti dall’informatica e in particolare dalle possibilità offerte dall’applicazione al “dominio” del diritto della Intelligenza Artificiale (IA). Fin dai primordi della c.d. informatica giuridica, ancora indicata come giurimetria[1], ci si è interrogati sul quali fossero le capacità di un elaboratore elettronico di svolgere funzioni in campo giuridico e documentale.

Quelle che a metà del novecento sembravano solo delle speculazioni visionarie a distanza di quasi un secolo stanno progressivamente prendendo forma, ponendo a tutti gli operatori del diritto, anche in campo amministrativo, numerosi interrogativi riguardanti il concreto utilizzo di questi strumenti nella propria attività e i limiti, con i conseguenti profili di responsabilità, che caratterizzano attualmente questi modelli di IA cosiddetta generativa.

Cosa si intende per IA

L’intelligenza artificiale è una disciplina che rientra essenzialmente nell’ambito dell’informatica, ma essa racchiude al suo interno anche elementi di logica, matematica, calcolo probabilistico; inoltre, affinché essa possa veramente emulare il funzionamento dell’intelligenza umana, l’IA studia alcuni fenomeni come la percezione, il ragionamento, l’apprendimento e l’agire  umano ed è influenzata in modo significativo da numerose materie come la filosofia, la psicologia, la cibernetica, le scienze cognitive.

L’IA secondo l’Unione europea

Di recente, il Regolamento europeo sull’intelligenza artificiale, in corso di emanazione, meglio conosciuto come l’AI Act, ha dato una sua definizione dell’IA descrivendola come: “un sistema automatizzato progettato per funzionare con diversi livelli di autonomia e che può mostrare capacità di adattamento dopo l’installazione e che, per obiettivi espliciti o impliciti, deduce, dagli input che riceve, come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali” (articolo 3).

Questa definizione tiene insieme le moltissime applicazioni che attualmente caratterizzano l’IA tra loro altrettanto differenti[2]: alcune di queste aree hanno un campo di azione generale, come l’apprendimento e la percezione, altre si occupano di problemi specifici come la risoluzione di giochi, la dimostrazione di teoremi matematici, la scrittura automatica di testi e la diagnosi di malattie.

Di fatto poiché l’ IA si occupa di sistematizzare e automatizzare alcune attività intellettive, si può potenzialmente applicare a ogni sfera del pensiero umano e quanto più le attività umane sono procedimentalizzate e ripetitive, tanto più possono essere gestite per il tramite dell’IA.

Ciò non toglie che secondo il legislatore europeo l’IA deve essere sviluppata e utilizzata in modo sicuro, etico e rispettoso dei diritti fondamentali e dei valori europei, e per questo motivo i sistemi di IA vengono classificati in base al loro livello di rischio per la sicurezza e i diritti delle persone e vengono stabiliti una serie di requisiti e obblighi per i fornitori e gli utenti di tali sistemi.

In particolare sistemi di IA generativa, che sono sicuramente quelli caratterizzati dalle applicazioni più promettenti nell’ambito della pubblica amministrazione, rientrano tra quelli a rischio limitato e posso essere utilizzati:

• per generare o manipolare contenuti testuali o audiovisivi (come i deepfake)
• per fornire suggerimenti personalizzati (come le chatbot).

In questi casi l’utente ha il diritto a sapere di stare parlando con un bot (invece di un umano) e che quell’immagine o quel testo è creato o artefatto dall’IA.

L’IA e la documentazione amministrativa

Passando ora a occuparci delle possibili applicazioni dell’IA alla documentazione amministrativa è possibile individuare alcuni campi particolarmente promettenti:

• l’estrazione automatica di informazioni di interesse da grandi insiemi di documenti, costituiti da testi normativi, regolamentari o di prassi, da riviste, monografie o volumi giuridici[3];
• l’individuazione e il recupero di documenti per contenuto e non per semplice parola chiave; la classificazione documentale di testi, atti, schemi e quanto altro ordinariamente in uso nel contesto di un procedimento amministrativo;
• lo sviluppo di interfacce intelligenti che possano guidare la raccolta delle informazioni utili nel dialogo con gli utenti e di chatbot per fornire le prime risposte orientative ai quesiti posti dal cittadino che propone un’istanza;
• l’assistenza automatizzata nella redazione di testi in generale e degli atti come delibere, determine o anche contratti, come gli appalti le concessioni: quest’ultimo tipo di applicazione può avere a oggetto i dati necessari alla tipologia di atto, ad esempio quelli identificativi dei componenti degli organi o quelli descrittivi dell’oggetto della deliberazione o della specifica contrattazione, ma anche più in generale le formule da utilizzare in relazione al contenuto del documento da redigere.

Principi in materia di pubblica amministrazione

Se il Regolamento europeo in materia di IA è ormai in dirittura di arrivo e mancano pochi passaggi formali per la sua emanazione, l’elaborazione della nostra normativa interna necessaria alla sua piena applicazione è ancora in itinere, dalle bozze fin qui circolate è possibile individuare alcuni principi nell’applicazione dell’IA nella pubblica amministrazione che con molta probabilità verranno confermati anche nella stesura definitiva della normativa domestica: innanzitutto, come di fatto avviene per l’informatica sin dalla cosiddetta Bassanini semel (L. 15 marzo 1997, n. 59), l’utilizzo dell’IA viene visto come un mezzo per incrementare l’efficienza della attività amministrativa, per ridurre i tempi di definizione dei procedimenti e per aumentare la qualità e la quantità dei servizi erogati ai cittadini e alle imprese; altro principio fondamentale individuabile nelle bozze di questo testo di legge è quello della conoscibilità del funzionamento degli algoritmi di intelligenza artificiale (principio meglio noto come Explainable Artificial Intelligence o XAI) [4]e la tracciabilità del suo utilizzo: entrambi questi principi si legano strettamente con la necessità che l’azione amministrativa sia trasparente  nei suoi processi decisionali interni e nella controllabilità dall’esterno degli stessi.

L’IA, inoltre, dovrà essere utilizzata in funzione strumentale e di supporto a quella umana, nel rispetto dell’autonomia e del potere decisionale della persona che resta l’unica responsabile dei provvedimenti e dei procedimenti in cui sia stata utilizzata l’intelligenza artificiale.

Viene così riconfermata quella funzione strumentale e accessoria che l’IA deve avere sia in ambito privato che pubblico, straordinario mezzo per accrescere le potenzialità umane, ma che non può mai sostituirsi all’intervento umano in qualsiasi contesto che preveda una decisione capace di incidere sulla vita delle persone.

Note

[1]Il termine fu coniato da un manager giurista americano, Lee Loevinger, il quale per primo individuò i 3 settori di possibile applicazione di questa scienza: Judicial predicting (predizione delle decisioni), Law retriving (ricerca documentale) e Judicial decision-making (strutturazione di modelli decisionali artificiali).

[2]Attualmente l’IA può essere suddivisa in categorie, dalla più generica a quelle via via sempre più specialistiche, secondo questo schema di sintesi: in generale per IA si intendono delle macchine che si «comportano come un umano», per Machine Learning (ML) si intende un particolare processo che porta all’apprendimento per esempi; più nel dettaglio per Reti Neurali si intende una specifica famiglia di algoritmi di ML ed infine per Deep Learning una particolare tipo di reti neurali.

[3]Si tratta dell’applicazione più risalente nota anche come information retrivial, applicata banche dati sempre più estese ed interconnesse.

[4]Il principio si ricollega a quanto già previsto in materia di tutela dei dati personali: infatti l’art. 13 del Regolamento UE 2016/679 (GDPR) prevede che il titolare del trattamento, in caso di processo decisionale automatizzato, fornisca all’interessato informazioni significative sulla logica utilizzata da tale processo.