Sistemi predittivi nei trasporti: serve una PA capace di governarli

La trasformazione digitale dei sistemi di mobilità sta progressivamente superando la fase incentrata sulla standardizzazione e sull’interoperabilità dei dati per estendersi all’impiego di sistemi di intelligenza artificiale (AI) nei processi di previsione, pianificazione e supporto alle decisioni.

Governance algoritmica nei trasporti: contesto e domanda di ricerca

Nel trasporto pubblico, standard quali il General Transit Feed Specification (GTFS) e il GTFS Realtime (GTFS-RT) hanno reso disponibili, rispettivamente, dati programmati e aggiornamenti operativi in tempo (quasi) reale. L’evoluzione più recente riguarda tuttavia la capacità di elaborare tali informazioni, insieme a dati provenienti da sensori, sistemi di bigliettazione, dispositivi mobili e infrastrutture connesse, mediante modelli predittivi destinati a supportare la programmazione del servizio, l’allocazione delle risorse e la gestione della manutenzione.

Una revisione di 87 studi sull’AI nel trasporto pubblico mostra che le applicazioni prevalenti riguardano previsione, stima dello stato corrente, pianificazione e scheduling; quasi tutte operano come strumenti di supporto decisionale, mentre soltanto una quota residuale realizza forme di automazione piena [1].

Questa evoluzione può essere interpretata attraverso il concetto di governance algoritmica (algorithmic governance), inteso come impiego di sistemi computazionali nei processi attraverso i quali le organizzazioni pubbliche acquisiscono informazioni, formulano alternative e assumono o attuano decisioni. L’introduzione dell’AI non produce infatti soltanto un incremento della capacità analitica, ma modifica le pratiche organizzative, la distribuzione della discrezionalità e i confini della responsabilità tra amministrazioni, gestori, professionisti e fornitori tecnologici. La letteratura più recente evidenzia come l’integrazione dell’AI nella governance pubblica dipenda non solo dalle prestazioni dei modelli, ma anche dalla disponibilità di dati interoperabili, dalle competenze del personale, dalle infrastrutture digitali e dalla capacità manageriale di riprogettare procedure e, soprattutto, meccanismi di controllo [2].

Nei trasporti, tale problema assume particolare rilievo perché i sistemi predittivi possono incidere su funzioni con livelli molto diversi di criticità: manutenzione delle infrastrutture, regolazione del traffico, pianificazione del trasporto pubblico, allocazione dei mezzi, informazione all’utenza e integrazione multimodale. Non tutti questi impieghi costituiscono decisioni automatizzate né ricadono necessariamente nella categoria dei sistemi ad alto rischio. L’AI Act qualifica come ad alto rischio, tra gli altri, i sistemi di AI utilizzati come componenti di sicurezza nella gestione e nell’esercizio del traffico stradale, quando il loro malfunzionamento possa mettere in pericolo la vita o la salute delle persone o determinare significative interruzioni delle attività sociali ed economiche. La classificazione dipende pertanto dalla finalità prevista e dalla funzione concretamente svolta dal sistema [3], non dalla semplice appartenenza al settore dei trasporti.

L’adozione di tali tecnologie espone le amministrazioni anche ad asimmetrie informative rispetto ai fornitori. La complessità dei modelli, la dipendenza dai dati di addestramento e l’impiego di soluzioni proprietarie possono ridurre la capacità dell’ente pubblico di verificare le prestazioni, ricostruire gli output e modificare o sostituire il sistema. L’opacità non è tuttavia una proprietà uniforme e inevitabile di ogni applicazione di AI: dipende dall’architettura adottata, dalla documentazione disponibile, dalle modalità di accesso ai dati e ai log e dalla possibilità di effettuare verifiche indipendenti. Nei procedimenti pubblici, tali condizioni devono confrontarsi con i principi di conoscibilità, tracciabilità, motivazione, non discriminazione e sindacabilità dell’azione amministrativa. La trasparenza e la conservazione di uno spazio effettivo per la discrezionalità umana incidono inoltre sulla legittimità percepita delle decisioni automatizzate sia tra i cittadini sia tra gli stessi amministratori pubblici [4].

Il diritto europeo e quello nazionale stanno traducendo questi problemi in obblighi di governance. Il Regolamento (UE) 2024/1689 – l’AI Act per l’appunto – disciplina i sistemi ad alto rischio attraverso requisiti relativi alla gestione del rischio, alla governance dei dati, alla documentazione tecnica, alla registrazione automatica degli eventi, alla trasparenza, alla supervisione umana, all’accuratezza, alla robustezza e alla cybersecurity. In Italia, l’art. 14 della legge 23 settembre 2025, n. 132 stabilisce che l’AI sia utilizzata dalla Pubblica Amministrazione (PA) in funzione strumentale e di supporto all’attività provvedimentale, assicurando conoscibilità e tracciabilità e preservando l’autonomia e la responsabilità della persona che adotta il provvedimento. Nel ciclo di vita dei contratti pubblici, l’art. 30 del d.lgs. 31 marzo 2023, n. 36 impone inoltre disponibilità del codice sorgente e della relativa documentazione, assistenza per correggere errori ed effetti indesiderati e rispetto dei principi di conoscibilità, non esclusività della decisione algoritmica e non discriminazione.

In questo quadro, il problema di ricerca non riguarda soltanto l’accuratezza dell’algoritmo, ma la capacità amministrativa di governarne l’intero ciclo di vita: definizione della finalità pubblica, selezione e qualità dei dati, affidamento del sistema, validazione tecnica, integrazione nei processi organizzativi, supervisione umana, monitoraggio delle prestazioni e attribuzione delle responsabilità. Il procurement assume una funzione particolarmente rilevante, poiché le condizioni di futura trasparenza, gestione e auditabilità vengono determinate già nella progettazione del fabbisogno, nella definizione delle specifiche e nell’allocazione contrattuale dei diritti su dati, log, documentazione e aggiornamenti. La questione centrale diventa quindi se l’amministrazione conservi conoscenza e capacità di controllo sufficienti per contestare, modificare o disattivare il sistema, anziché limitarsi a recepirne passivamente gli output.

Alla luce di queste premesse, il presente paper affronta la seguente domanda di ricerca:

In che modo le amministrazioni pubbliche possono governare i sistemi predittivi utilizzati nei trasporti, preservando capacità tecnica, controllo dei dati e responsabilità decisionale rispetto ai fornitori tecnologici?

A questa domanda principale si collegano quattro quesiti secondari:

1. Quali funzioni pubbliche nel settore dei trasporti presentano la maggiore esposizione ai rischi della governance algoritmica;
2. Quali asimmetrie informative e dipendenze possono originarsi nel procurement di sistemi di AI;
3. Quali presìdi tecnici, contrattuali e organizzativi rendono i sistemi verificabili e consentono una supervisione umana effettiva;
4. Come varia il confine tra supporto algoritmico e decisione amministrativa in relazione alla criticità, alla latenza e al grado di automazione del caso d’uso.

Lo studio adotta un disegno di ricerca teorico fondato sull’integrazione strutturata di tre gruppi di fonti: letteratura scientifica sulla governance dell’AI e sul trasporto; disciplina europea e italiana applicabile; documenti istituzionali e strumenti operativi in materia di procurement e accountability. I casi della manutenzione predittiva, della pianificazione del trasporto pubblico, delle piattaforme di Mobilityas a Service (MaaS) e della regolazione dinamica del traffico sono utilizzati come casi analitici comparativi.

Il contributo del paper consiste nell’adattare la logica dei framework di maturità e readiness al dominio dei sistemi predittivi nei trasporti, proponendo un modello integrato di capacità amministrativa algoritmica. Il framework collega mandato pubblico, governance dei dati, procurement, auditabilità, supervisione umana, sicurezza e accountability, al fine di valutare se l’amministrazione disponga dei presìdi necessari per introdurre sistemi algoritmici senza trasferire di fatto al fornitore privato il controllo sostanziale della funzione pubblica.

Governance algoritmica nei trasporti e capacità amministrativa

La digitalizzazione della PA modifica non soltanto gli strumenti utilizzati per acquisire ed elaborare informazioni, ma anche la distribuzione dell’esercizio dell’autorità, della discrezionalità e della responsabilità all’interno delle organizzazioni pubbliche. La nozione di governance algoritmica descrive, in questa prospettiva, l’impiego di sistemi computazionali nei processi attraverso i quali le amministrazioni formulano alternative, allocano risorse, erogano servizi e supportano o attuano decisioni. L’algoritmo non opera quindi come una componente tecnica isolata: entra in un sistema sociotecnico composto da dati, regole, professionisti, strutture organizzative, fornitori e destinatari dell’azione pubblica. La sua introduzione può redistribuire i diritti (e i conflitti) decisionali, ridefinire i flussi di lavoro, modificare i ruoli professionali e rendere più complessa l’imputazione della responsabilità [5].

Gli effetti organizzativi di questa trasformazione sono ambivalenti. La recente letteratura individua, da un lato, risultati positivi in termini di efficienza, trasparenza, capacità predittiva e apprendimento (con relativo miglioramento) organizzativo (brightoutcomes); dall’altro, rileva rischi di dipendenza tecnologica, ambiguità dei ruoli e formazione di vuoti di accountability (dark outcomes). La compresenza di tali effetti dipende dalla chiarezza dell’assetto di governance, dalla maturità dei dati e dei sistemi, dalle competenze disponibili e dalla presenza di procedure attraverso le quali l’organizzazione possa interpretare, contestare e correggere gli output algoritmici. Non è dunque la tecnologia in sé a determinare gli esiti, ma il modo in cui essa viene incorporata nelle strutture amministrative e nei relativi meccanismi di responsabilità.

Un costrutto teorico distinto, ma strettamente collegato, è quello di regolazione algoritmica (algorithmicregulation). Yeung la definisce come l’impiego di sistemi decisionali che regolano un determinato ambito di attività per gestire rischi o influenzare comportamenti attraverso la produzione computazionale continua di conoscenza, fondata sulla raccolta di dati provenienti dall’ambiente regolato. Il modello può intervenire nelle tre fasi del processo (cibernetico) di controllo: definizione degli standard, acquisizione e monitoraggio delle informazioni, attuazione delle conseguenze comportamentali. In ciascuna fase possono essere adottate configurazioni differenti: standard fissi oppure adattivi, dati storici oppure inferenze predittive, esecuzione automatica oppure semplice raccomandazione [6].

Questa distinzione è particolarmente utile nel settore dei trasporti. Un algoritmo che prevede il degrado di un componente ferroviario o stradale assolve prevalentemente una funzione conoscitiva e diagnostica; un sistema che stabilisce priorità semaforiche o modifica la segnaletica dinamica interviene invece direttamente sul funzionamento della rete; un motore MaaS che ordina le alternative di viaggio o determina incentivi tariffari può orientare il comportamento degli utenti senza adottare formalmente un provvedimento amministrativo. La governance algoritmica indica pertanto l’assetto complessivo attraverso il quale questi sistemi vengono progettati, acquistati, utilizzati e controllati; la regolazione algoritmica identifica più specificamente l’impiego dell’algoritmo come componente di un circuito (o processo) volto a modificare operazioni o comportamenti. Tale distinzione consente di evitare l’assimilazione tra sistemi meramente informativi, strumenti di supporto decisionale e soluzioni dotate di autonomia esecutiva.

Discrezionalità pubblica e sistemi incorporati

L’introduzione di sistemi informativi e decisionali automatizzati può determinare uno spostamento del luogo nel quale viene esercitata la discrezionalità amministrativa. Bovens e Zouridis hanno descritto il passaggio dalle tradizionali street-levelbureaucracies, nelle quali il funzionario a contatto con il cittadino dispone di un margine significativo di valutazione del singolo caso, alle system-levelbureaucracies, nelle quali regole, criteri e procedure vengono incorporati nei sistemi informativi [7]. In queste configurazioni, analisti, progettisti e sviluppatori traducono norme e politiche pubbliche in algoritmi, alberi decisionali e più in generale in architetture digitali, spostando parte della discrezionalità dalla fase applicativa alla progettazione del sistema.

L’AI accentua tale trasformazione. Young, Bullock e Lecy definiscono discrezionalità artificiale l’impiego dell’AI per aumentare o automatizzare l’esecuzione di compiti che richiedono decisioni non banali. Il confronto con la discrezionalità umana varia in funzione della specificità del compito e della complessità dell’ambiente: l’AI può aumentare la scalabilità, ridurre i costi e migliorare la qualità di determinate attività, ma solleva problemi rilevanti in termini di equità, gestione e fattibilità politica. La scelta tra decisione umana, decisione automatizzata e configurazioni ibride non può pertanto essere compiuta in astratto, ma deve tenere conto del contenuto della funzione, dell’incertezza, dei potenziali effetti sui destinatari e della possibilità di verificare e contestare il risultato [8].

Ne consegue che l’automazione non elimina necessariamente la discrezionalità: spesso la ricolloca. Le decisioni relative alla selezione dei dati, alla definizione della variabile-obiettivo, alla scelta delle soglie, al trattamento delle anomalie e alla configurazione delle regole di intervento incorporano valutazioni tecniche e normative che precedono l’utilizzo operativo del sistema. Nel trasporto pubblico, ad esempio, ottimizzare la regolarità, minimizzare i costi, massimizzare quantitativamente l’utenza o garantire un’adeguata copertura territoriale non costituiscono obiettivi equivalenti. La funzione obiettivo traduce una determinata concezione dell’interesse pubblico e può produrre conseguenze distributive differenziate tra zone centrali e periferiche, utenti frequenti e occasionali, servizi maggiormente redditizi e collegamenti soggetti a obblighi di servizio pubblico.

La capacità amministrativa deve quindi essere intesa non come mera disponibilità di competenze informatiche, ma come capacità istituzionale di governare la complessiva catena algoritmica: definire le finalità pubbliche; verificare la rappresentatività dei dati; controllare le scelte di progettazione; valutare l’affidabilità degli output; mantenere competenze sufficienti per poter contestare il fornitore; documentare il ruolo svolto dal sistema nell’intero procedimento; individuare responsabilità e rimedi. In assenza di tali capacità, l’acquisizione di un sistema tecnicamente avanzato può produrre una perdita, anziché un rafforzamento, dell’autonomia amministrativa.

AI Act: rischio, governance e supervisione

Il Regolamento (UE) 2024/1689 – AI Act – traduce parte di queste esigenze in un sistema differenziato di obblighi fondato sul rischio. Il regolamento è entrato in vigore il 1° agosto 2024, ma la maggior parte delle disposizioni relative ai sistemi ad alto rischio è divenuta applicabile dal 2 agosto 2026. Non tutte le applicazioni di AI nei trasporti sono automaticamente qualificate come ad alto rischio: l’Allegato III include i sistemi destinati a essere utilizzati come componenti di sicurezza nella gestione e nell’esercizio delle infrastrutture digitali critiche e del traffico stradale. La classificazione richiede pertanto una valutazione della finalità prevista, della funzione di sicurezza concretamente esercitata e delle conseguenze del possibile malfunzionamento.

Per i sistemi ad alto rischio, l’AI Act prevede requisiti riguardanti gestione del rischio, qualità e governance dei dati, documentazione tecnica, registrazione automatica degli eventi, trasparenza verso il deployer, supervisione umana, accuratezza, robustezza e cybersecurity. L’art. 14 richiede in particolare che i sistemi siano progettati in modo da poter essere effettivamente supervisionati da persone fisiche. Gli addetti devono poter comprendere capacità e limiti del sistema, rilevare anomalie, interpretare gli output, riconoscere il rischio di eccessivo affidamento, ignorare o modificare la raccomandazione e, se necessario, interrompere il funzionamento. La supervisione umana non coincide quindi con la mera presenza nominale di un operatore, ma richiede competenza, autorità, risorse e strumenti di interazione proporzionati al rischio, all’autonomia e al contesto di impiego.

Questa impostazione è particolarmente rilevante nei trasporti, dove la necessità di intervento umano varia in funzione del caso d’uso e della latenza decisionale. La pianificazione dell’offerta di trasporto o la programmazione di un intervento manutentivo possono consentire una verifica preventiva approfondita; la regolazione in tempo reale del traffico richiede invece forme di monitoraggio continuo, soglie di intervento e possibilità di arresto (o override). Il requisito di supervisione deve pertanto essere tradotto in configurazioni organizzative differenziate, evitando tanto l’automazione incontrollata quanto una presenza umana meramente rituale.

Norme italiane e imputabilità della decisione

La legge 23 settembre 2025, n. 132 non “traspone” l’AI Act, che è direttamente applicabile negli Stati membri, ma introduce una disciplina nazionale complementare, espressamente interpretata e applicata in conformità al regolamento europeo. L’art. 14 stabilisce che le pubbliche amministrazioni utilizzino l’AI per incrementare l’efficienza, ridurre i tempi procedimentali e migliorare quantità e qualità dei servizi, assicurando agli interessati la conoscibilità del funzionamento e la tracciabilità dell’utilizzo. La disposizione precisa, inoltre, che l’AI opera in funzione strettamente strumentale e di supporto all’attività provvedimentale, nel rispetto dell’autonomia e del potere decisionale della persona, che resta responsabile dei procedimenti e dei provvedimenti nei quali il sistema sia stato utilizzato.

Da questa disposizione emerge un principio di imputabilità umana della decisione, ma non necessariamente il divieto assoluto di qualsiasi automazione amministrativa. La norma deve essere letta insieme alla disciplina europea, alla natura vincolata o discrezionale dell’attività e alle garanzie concretamente predisposte. È pertanto preferibile non affermare, in termini assoluti, che l’algoritmo non possa mai concorrere alla ponderazione degli interessi. La questione centrale è piuttosto che l’amministrazione non possa utilizzare la complessità tecnica come ragione per sottrarre la decisione alla conoscibilità, al controllo, alla motivazione e all’imputazione di responsabilità.

Questo orientamento è coerente con la giurisprudenza amministrativa formatasi prima dell’AI Act e della legge n. 132/2025. Con la sentenza n. 2270 dell’8 aprile 2019, il Consiglio di Stato ha ricondotto la regola algoritmica utilizzata nel procedimento alla nozione di atto amministrativo informatico, sottolineandone la necessaria conoscibilità e la soggezione ai principi di imparzialità, pubblicità e trasparenza [9]. Con la sentenza n. 8472 del 13 dicembre 2019, lo stesso giudice ha qualificato l’algoritmo come modulo organizzativo e strumento procedimentale e istruttorio, richiedendo la conoscibilità del meccanismo e dei criteri applicati e l’imputabilità della decisione all’organo titolare del potere, chiamato a verificarne logicità e legittimità [10].

L’art. 30 del d.lgs. 31 marzo 2023, n. 36 recepisce alcuni di questi principi, ma entro un ambito specifico: l’impiego di procedure automatizzate nel ciclo di vita dei contratti pubblici. La disposizione richiede, nell’acquisto o nello sviluppo delle soluzioni, la disponibilità del codice sorgente, della documentazione e degli ulteriori elementi necessari a comprenderne le logiche di funzionamento; impone inoltre clausole di assistenza e manutenzione per correggere errori ed effetti indesiderati. Le decisioni automatizzate devono rispettare conoscibilità e comprensibilità, non esclusività della decisione algoritmica e non discriminazione. Parimenti, non sarebbe tuttavia corretto estendere automaticamente l’art. 30 a qualunque sistema di AI utilizzato nei trasporti: la norma acquista rilievo diretto quando l’automazione riguarda il ciclo di vita del contratto pubblico, mentre può offrire un riferimento sistematico più generale per progettare il procurement di soluzioni algoritmiche.

Definire la capacità amministrativa algoritmica

La combinazione di questi contributi permette di definire la capacità amministrativa algoritmica come l’insieme delle risorse, delle competenze e delle procedure attraverso le quali un’amministrazione mantiene il controllo sostanziale sulle finalità, sui dati, sull’acquisizione, sul funzionamento e sugli effetti dei sistemi algoritmici utilizzati nell’esercizio delle proprie funzioni. Tale capacità comprende (o almeno dovrebbe) cinque dimensioni:

1. Capacità strategica, consistente nella definizione della finalità pubblica e dei risultati attesi;
2. Capacità informativa, relativa a qualità, accessibilità, provenienza e rappresentatività dei dati;
3. Capacità contrattuale, necessaria per disciplinare documentazione, audit, portabilità, aggiornamenti e responsabilità del fornitore;
4. Capacità tecnico-organizzativa, relativa alla validazione, al monitoraggio e alla supervisione del sistema nel suo ciclo di vita;
5. Capacità di accountability, consistente nella possibilità di ricostruire la decisione, identificarne i responsabili e consentirne contestazione e riesame.

In questa prospettiva, la governance algoritmica non coincide né con la semplice adozione dell’AI né con la sola conformità normativa. Essa consiste nella capacità dell’amministrazione di tradurre i principi di conoscibilità, tracciabilità, supervisione e non discriminazione in strutture organizzative, specifiche contrattuali e procedure operative. È su questa capacità – e non sulla sola accuratezza predittiva – che deve essere valutata la maturità delle amministrazioni nell’impiego dei sistemi algoritmici nei trasporti.

Sistemi predittivi nei trasporti: applicazioni, rischi e presìdi

Il settore dei trasporti costituisce un ambito particolarmente rilevante per l’analisi della governance algoritmica, poiché combina infrastrutture fisiche, servizi pubblici essenziali, dati spaziotemporali, sistemi real-time e decisioni multi-attore. Le applicazioni di AI nei trasporti non riguardano soltanto l’ottimizzazione tecnica dei flussi, ma incidono su sicurezza, continuità del servizio, accessibilità, distribuzione territoriale delle risorse e responsabilità degli enti pubblici e dei gestori. La letteratura recente sull’AI nel trasporto pubblico mostra che gli impieghi prevalenti riguardano previsione, stima dello stato corrente, allocazione di risorse, pianificazione e scheduling, mentre le forme di automazione piena risultano ancora minoritarie rispetto ai sistemi di supporto decisionale rivolti a operatori, pianificatori, amministrazioni e utenti.

Una prima macroarea è rappresentata indubbiamente dalla manutenzione predittiva e dal monitoraggio della salute strutturale (Structural Health Monitoring – SHM) delle infrastrutture di trasporto. In questo ambito, tecniche di machine learning e deep learning vengono applicate a dati provenienti da sensori, immagini, rilievi da droni, sistemi IoT e monitoraggi continui per migliorare l’individuazione di anomalie, supportare la diagnosi del danno e anticipare interventi manutentivi. Le applicazioni più rilevanti riguardano l’acquisizione e il trattamento del dato, l’estrazione di caratteristiche significative dai segnali, l’anomalydetection, la damageidentification, la predictivemaintenance, la valutazione del rischio e l’ispezione visiva automatizzata [11]. In termini amministrativi, questi sistemi non producono soltanto un’informazione tecnica, ma possono influenzare priorità manutentive, interruzioni di servizio, allocazione di risorse e valutazioni di sicurezza. La loro adozione richiede quindi che l’amministrazione o il gestore conservino la capacità di comprendere il fondamento della raccomandazione algoritmica, verificarne l’attendibilità e motivare l’eventuale decisione conseguente.

Una seconda macroarea riguarda la pianificazione del servizio e la regolazione dinamica del traffico. Nei servizi di trasporto pubblico, l’AI può essere utilizzata per prevedere domanda, carichi a bordo, tempi di arrivo, ritardi, regolarità del servizio e fabbisogni operativi; nella gestione del traffico stradale, sistemi adattivi possono modificare i piani semaforici in funzione delle condizioni real-time della rete. Le revisioni più recenti sui sistemi di controllo semaforico adattivo evidenziano l’impiego di fuzzy logic, metaeuristiche, programmazione dinamica, reinforcement learning e deep reinforcement learning per adattare i tempi semaforici alla variabilità della domanda e ridurre congestione ed emissioni [12]. In tali casi, il grado di intervento umano compatibile con il funzionamento del sistema varia in modo significativo: la pianificazione di linee e frequenze può consentire verifiche preventive e valutazioni discrezionali, mentre il controllo real-time del traffico richiede spesso monitoraggio continuo, soglie operative, procedure di override e meccanismi di funzionamento sicuro in caso di errore (o di degrado delle prestazioni).

Una terza area è costituita dalle piattaforme di MaaS e, più in generale, dai sistemi multimodali di raccomandazione, prenotazione, pagamento e integrazione dei servizi di mobilità. Il MaaS mira a fornire, attraverso un’interfaccia digitale unica, l’accesso coordinato a diversi servizi di trasporto, integrando informazione, prenotazione, pagamento e, nei modelli più avanzati, pacchetti o abbonamenti multimodali. L’International Transport Forum sottolinea che l’integrazione del trasporto pubblico nel MaaS richiede specifici requisiti regolatori e di governance, in particolare per garantire che tali piattaforme contribuiscano a obiettivi di mobilità urbana sostenibile e non alla sola intermediazione commerciale dei servizi. La dimensione algoritmica emerge nella selezione e ordinamento delle alternative di viaggio, nella raccomandazione modale, nell’eventuale pricing dinamico e nella gestione dei rapporti tra operatori pubblici e privati [13]. Studi sul pricing nei contesti MaaS mostrano che le strategie tariffarie possono incidere sull’efficienza dell’offerta e sui comportamenti degli utenti, ma pongono anche inevitabili trade-off tra redditività, accessibilità economica, equità e obiettivi ambientali.

L’esposizione dei trasporti ai sistemi algoritmici genera tuttavia rischi specifici. Il primo riguarda l’opacità tecnica dei modelli. Non tutti i sistemi di AI sono ugualmente opachi, poiché il grado di interpretabilità dipende dall’architettura, dalla documentazione, dalla disponibilità dei dati, dagli strumenti di explainability eventualmente utilizzati e dalle procedure di validazione. Tuttavia, molti algoritmi ad alte prestazioni, in particolare alcune architetture di deep learning, possono rendere difficile spiegare in modo immediato perché un determinato output sia stato prodotto. Nel contesto della manutenzione predittiva o della regolazione del traffico, tale opacità può ostacolare la validazione indipendente dell’output e complicare la motivazione tecnica e amministrativa della decisione. Le revisioni sullo Structural Health Monitoring basato su AI evidenziano infatti non solo il potenziale di tali strumenti, ma anche la necessità di affrontare aspetti legati a trasparenza, affidabilità, privacy, equità e impatti sociali. Ne deriva che il deficit di interpretabilità può potenzialmente entrare in collisione diretta con il bisogno di rendicontabilità amministrativa: l’impossibilità di comprenderne una logica matematica può ostacolare l’individuazione di eventuali distorsioni o errori nei dati di addestramento (data dependence and qualityissues).

Il secondo rischio riguarda l’automationbias, ossia la tendenza degli operatori a fare eccessivo affidamento sugli output dei sistemi automatizzati. Tale rischio è riconosciuto espressamente anche dall’art. 14 dell’AI Act, che richiede che le persone incaricate della supervisione siano poste in condizione di comprendere capacità e limiti del sistema, monitorarne il funzionamento, interpretarne correttamente gli output, evitare l’eccessivo affidamento e decidere, se necessario, di ignorare, sovrascrivere o invertire l’output e, ove necessario, interrompere il funzionamento del sistema.

Nel settore dei trasporti, ciò significa che la supervisione umana non può essere ridotta alla presenza formale di un operatore in sala controllo o alla validazione (automatica) di una raccomandazione. Essa richiede competenza tecnica, tempo decisionale, autorità, accesso alle informazioni rilevanti e procedure che legittimino il dissenso rispetto all’output algoritmico.

Per queste ragioni, la governance algoritmica nei trasporti deve includere non solo strumenti tecnici di monitoraggio, ma anche meccanismi organizzativi di challenge, riesame e contestazione interna. Per challenge function si intende una funzione istituzionalizzata di messa in discussione dell’output algoritmico: non un controllo meramente formale, successivo e passivo, ma una pratica organizzativa che abilita funzionari, tecnici e decisori a interrogare le assunzioni del modello, verificare la qualità dei dati, richiedere spiegazioni aggiuntive, confrontare scenari alternativi e, se necessario, discostarsi motivatamente dalla raccomandazione prodotta dal sistema [14]. In questa prospettiva, il controllo umano non coincide con la semplice presenza di un operatore “in the loop”, ma richiede alfabetizzazione tecnica, autonomia professionale, accesso ai log, strumenti di interpretabilità e una cultura organizzativa che legittimi il dissenso rispetto alla macchina.

La funzione di challenge assume particolare rilievo in quanto i sistemi predittivi possono generare una forma di dipendenza cognitiva dagli output algoritmici. L’operatore pubblico, soprattutto in ambienti complessi e ad alta pressione informativa (e operativa), può essere indotto a considerare la raccomandazione del sistema come epistemicamente superiore, riducendo il proprio giudizio critico a una validazione di facciata. È, per l’appunto, il rischio dell’automationbias, già discusso, espressamente richiamato anche dall’art. 14 dell’AI Act tra i profili che la supervisione umana deve contribuire a prevenire. La challenge function serve quindi a evitare che l’output predittivo si trasformi automaticamente in decisione amministrativa, preservando la distinzione tra supporto istruttorio algoritmico e responsabilità umana della scelta finale.

Nei sistemi a bassa latenza decisionale, come la regolazione del traffico in tempo reale, la challenge function non può consistere nella validazione umana di ogni singola micro-decisione. In tali contesti, essa deve essere incorporata a monte e a valle del sistema: test preventivi, simulazioni di scenario, soglie di allerta, logging completo, controlli ex post, verifiche periodiche delle prestazioni e procedure di override. L’operatore umano non controlla (e non potrebbe farlo) ogni singolo ciclo semaforico, ma deve poter comprendere le logiche generali del sistema, monitorare deviazioni anomale, intervenire in caso di comportamento inatteso e disattivare o riconfigurare il modello qualora esso produca effetti incompatibili con la sicurezza o con l’interesse pubblico.

Nei casi a maggiore contenuto discrezionale, come la programmazione del servizio, la definizione delle priorità manutentive o la rimodulazione dell’offerta di trasporto pubblico, la challenge function assume invece una forma più deliberativa. Essa deve tradursi in obblighi di motivazione, verifica tecnica indipendente, confronto tra scenari alternativi, valutazione degli effetti distributivi e possibilità di discostamento (ragionato) dalla raccomandazione algoritmica. In questi casi, la macchina può indicare quale scelta sia più efficiente secondo una determinata funzione-obiettivo, ma spetta all’amministrazione valutare se tale funzione sia coerente con obblighi di servizio pubblico, equità territoriale, sicurezza, sostenibilità e vincoli di bilancio.

La distinzione tra questi due contesti consente di adattare il modello di human oversight al diverso grado di rischio, autonomia e latenza decisionale dei sistemi impiegati nei trasporti. La challenge function diventa così il complemento organizzativo dell’auditabilità tecnica: mentre log, documentazione e strumenti di explainability rendono il sistema verificabile, la cultura del riesame e della contestazione interna assicura che l’amministrazione non abdichi alla propria responsabilità decisionale. In definitiva, governare l’AI nei trasporti significa non solo acquistare modelli predittivi affidabili, ma costruire istituzioni capaci di dubitare metodicamente dell’algoritmo quando la sicurezza, l’equità o la legittimità della decisione pubblica lo richiedano.

Procurement nei trasporti: governare il ciclo di vita dell’AI

L’assunzione del controllo pubblico sull’ecosistema algoritmico passa in modo decisivo dalla fase di approvvigionamento. Nel caso dei sistemi di AI, il procurement non costituisce soltanto lo strumento giuridico attraverso cui l’amministrazione acquisisce beni o servizi digitali, ma diventa una leva di regolazione ex ante della futura capacità decisionale pubblica. Attraverso il capitolato, il contratto e le specifiche tecniche, la stazione appaltante definisce non solo le prestazioni richieste al fornitore, ma anche il grado di trasparenza, auditabilità, portabilità, sicurezza, controllo sui dati e reversibilità del sistema che verrà integrato nei processi amministrativi. In questa prospettiva, il procurement è il primo momento in cui la governance algoritmica viene tradotta da principio astratto in architettura contrattuale e organizzativa. Le Linee Guida per lo sviluppo di sistemi di Intelligenza Artificiale nella pubblica amministrazione e le Linee Guida per il procurement di IA nella Pubblica Amministrazione, adottate (in bozza) con Determinazione n. 43/2026 e poste in consultazione pubblica nel marzo 2026, qualificano infatti il procurement come leva strategica per collegare scelte tecnologiche, profili economici, dimensioni organizzative e assetti contrattuali, con l’obiettivo di garantire sostenibilità degli investimenti, controllo pubblico e adattabilità nel tempo [15].

La peculiarità dei sistemi di AI rispetto al software tradizionale risiede essenzialmente nella loro natura data-driven, evolutiva e dipendente dal ciclo di vita. Un sistema predittivo non si esaurisce nella consegna di una licenza o di una piattaforma, poiché la sua affidabilità dipende dalla qualità dei dati utilizzati, dalle procedure di training, validazione e test, dal monitoraggio delle prestazioni in esercizio, dagli aggiornamenti, dall’eventuale riaddestramento e dalla gestione del rischio di model drift. Per questo motivo, i modelli ordinari di acquisto di software “chiuso” risultano spesso insufficienti: essi rischiano di trasferire al fornitore non solo la tecnologia, ma anche la conoscenza operativa necessaria per comprendere, verificare e contestare il comportamento del sistema. Le Linee guida di AgID dedicate al procurement di AI attribuiscono infatti specifico rilievo al ruolo del dato, agli impatti delle scelte architetturali su costi, controllo e rischio, alla cybersicurezza, alla portabilità e alla necessità di valutare la soluzione lungo l’intero ciclo di vita.

Il primo presidio riguarda quindi la governance dei dati. Nei sistemi predittivi applicati ai trasporti, i dati possono provenire da fonti eterogenee (ed essere in possesso di attori diversi): sensori infrastrutturali, sistemi di bigliettazione, localizzazione dei veicoli, piattaforme MaaS, dati di traffico, immagini da videocamere o droni, informazioni meteo-ambientali e registrazioni manutentive. Se la PA non controlla la provenienza, la qualità, la rappresentatività, l’aggiornamento e la disponibilità di tali dati, rischia di acquistare un sistema formalmente performante ma sostanzialmente non verificabile, non generalizzabile o incapace di rispondere alle finalità pubbliche. La letteratura istituzionale europea sul procurement e sull’adozione dell’AI nel settore pubblico sottolinea infatti che l’implementazione sostenibile dell’AI richiede politiche dei dati robuste, dataset adeguati, competenze tecniche e particolare attenzione all’explainability e al procurement innovativo [16].

Il secondo presidio riguarda il rischio di vendor lock-in. Nei sistemi di AI tale rischio non dipende soltanto dalla scelta di un determinato fornitore, ma può derivare da architetture proprietarie, formati non aperti, assenza di API interoperabili, indisponibilità dei log, impossibilità di esportare dataset e metadati, esclusività del know-how sul modello, dipendenza da specifiche infrastrutture cloud o da costi variabili non presidiati. L’effetto finale è che l’amministrazione può risultare incapace di sostituire il fornitore, integrare moduli di terzi, migrare verso soluzioni alternative o verificare autonomamente il comportamento del sistema. Le Linee guida AgID affrontano proprio il rapporto tra scelte architetturali, costi, controllo e rischio, richiamando temi quali modularità, interoperabilità, neutralità tecnologica, portabilità e cybersicurezza.

Del resto, nel settore dei trasporti, il lock-in algoritmico assume una particolare rilevanza perché i sistemi predittivi possono diventare componenti stabili della gestione operativa: manutenzione predittiva di ponti e ferrovie, regolazione semaforica adattiva, piattaforme di dispatching del TPL, motori di raccomandazione MaaS, sistemi di prioritizzazione degli interventi o dashboard di safety management. In questi casi, la dipendenza dal fornitore non riguarda soltanto i costi di manutenzione o aggiornamento, ma può incidere sulla capacità dell’ente di modificare le soglie operative, comprendere le metriche decisionali, verificare gli errori e motivare le scelte conseguenti. Per questa ragione, il procurement algoritmico deve prevedere clausole di portabilità, interoperabilità, accesso alla documentazione, disponibilità dei log, audit del sistema, exit strategy (soprattutto) e gestione trasparente dei costi di esercizio, incluse le componenti computazionali e i costi ricorrenti legati all’utilizzo del modello.

A livello europeo, uno strumento operativo rilevante è rappresentato dalle Model ContractualClauses for AI Procurement (MCC-AI), elaborate nell’ambito della Public Buyers Community per supportare gli acquirenti pubblici nell’acquisizione di soluzioni di AI affidabili, e aggiornate dopo l’adozione dell’AI Act. La versione più recente distingue una versione completa per sistemi ad alto rischio, allineata al Regolamento (UE) 2024/1689, e una versione light, personalizzabile per sistemi non ad alto rischio, accompagnate da un commentario che guida l’uso e l’adattamento delle clausole [17]. Tali clausole non costituiscono un contratto completo né sostituiscono la disciplina applicabile in materia di appalti, protezione dei dati, proprietà intellettuale o responsabilità, ma offrono una struttura utile per introdurre nel rapporto contrattuale obblighi specifici su risk management, data governance, documentazione tecnica, trasparenza, registrazione degli eventi, audit e cooperazione del fornitore.

Il valore delle MCC-AI non risiede soltanto nella loro funzione tecnico-contrattuale, ma nella capacità di ridurre le asimmetrie informative tra amministrazione e fornitore. Nell’ambito di sistemi complessi, la PA può non disporre internamente di tutte le competenze necessarie per valutare architettura, prestazioni, limiti, dataset, rischi di bias, sicurezza e condizioni di aggiornamento del modello. Le clausole standardizzate permettono allora di trasformare requisiti di accountability in obblighi contrattuali, imponendo al fornitore di produrre documentazione, supportare la verifica del sistema, consentire audit e cooperare nella gestione delle prestazioni e degli incidenti. La letteratura del Joint Research Centre sull’adozione dell’AI nel settore pubblico evidenzia proprio la necessità di rafforzare competenze, capacità organizzative e strumenti operativi delle amministrazioni per evitare che l’AI resti confinata a sperimentazioni isolate o aumenti la dipendenza da attori esterni [18].

Come accennato, nel contesto italiano, la centralità del procurement algoritmico trova un riferimento normativo nell’art. 30 del d.lgs. 31 marzo 2023, n. 36, relativo all’uso di procedure automatizzate nel ciclo di vita dei contratti pubblici. La disposizione prevede che, nell’acquisto o nello sviluppo di soluzioni tecnologiche, incluse quelle basate su AI, le stazioni appaltanti (e gli enti concedenti) assicurino la disponibilità del codice sorgente, della documentazione e di ogni altro elemento utile a comprenderne le logiche di funzionamento. Essa impone inoltre clausole di assistenza e manutenzione per la correzione di errori ed effetti indesiderati derivanti dall’automazione. Lo stesso articolo codifica i principi di conoscibilità e comprensibilità, non esclusività della decisione algoritmica e non discriminazione, stabilendo che debba comunque esistere un contributo umano capace di controllare, validare o smentire la decisione automatizzata.

Occorre tuttavia precisare che l’art. 30 opera direttamente nell’ambito del ciclo di vita dei contratti pubblici e non può essere meccanicamente esteso a ogni uso di AI nei trasporti. Esso fornisce però un riferimento sistematico rilevante: se il legislatore richiede conoscibilità, disponibilità della documentazione, assistenza per gli errori, controllo umano e non discriminazione nell’automazione delle procedure contrattuali, tali principi diventano particolarmente significativi quando la PA acquista sistemi predittivi destinati a incidere su sicurezza, continuità del servizio e allocazione delle risorse nel settore della mobilità. Il procurement diventa quindi la sede in cui i principi di conoscibilità e auditabilità devono essere trasformati in requisiti tecnici e contrattuali misurabili.

Per i Responsabili Unici di Progetto (RUP) e per le strutture tecniche delle amministrazioni, il procurement algoritmico richiede una diversa qualità della progettazione della gara. Non è sufficiente definire livelli di performance, accuratezza o disponibilità del servizio: occorre specificare le condizioni che rendono il sistema verificabile nel tempo. Tra queste rientrano, come detto, almeno: accesso ai log di funzionamento; documentazione dell’architettura decisionale; descrizione dei dataset e della data lineage; metriche di accuratezza, robustezza e degrado; procedure di validazione (e ri-validazione); requisiti di explainability proporzionati al caso d’uso; strumenti di audit indipendente; condizioni di aggiornamento o riaddestramento; obblighi di notifica in caso di anomalie; portabilità dei dati; interoperabilità tramite API; clausole anti-lock-in; continuità operativa; exit strategy e condizioni di dismissione sicura. Questi elementi sono coerenti con il quadro europeo delle MCC-AI e con il metodo individuato da AgID, che collega il procurement non solo alla scelta della soluzione, ma alla gestione, al monitoraggio e all’evoluzione del sistema nel tempo.

Nel settore dei trasporti, tali clausole assumono una funzione sostanziale di tutela dell’interesse pubblico. Un sistema di manutenzione predittiva che segnala un’anomalia infrastrutturale, una piattaforma che suggerisce la rimodulazione dell’offerta TPL, un algoritmo che modifica priorità semaforiche o un motore MaaS che ordina e prezza alternative di viaggio producono output che possono incidere su sicurezza, accessibilità, equità territoriale e continuità del servizio. Se il contratto non garantisce la possibilità di ricostruire la logica dell’output, verificare i dati, controllare le soglie, accedere ai log e contestare le prestazioni, l’ente pubblico rischia di non poter esercitare in modo effettivo la propria discrezionalità tecnica e amministrativa. Il deficit non nasce quindi al momento della decisione finale, ma nel momento in cui il capitolato non ha previsto le condizioni minime per controllare il sistema.

In questa prospettiva, il capitolato può essere definito come il primo atto di accountability algoritmica. Esso stabilisce prima dell’uso operativo quali informazioni saranno accessibili, quali prestazioni saranno misurabili, quali responsabilità saranno imputabili, quali controlli saranno possibili e quale spazio rimarrà all’amministrazione per modificare, sospendere o sostituire il sistema. Omettere questi presìdi significa produrre un deficit di capacità amministrativa prima ancora che l’algoritmo entri in esercizio: l’ente si troverebbe a gestire output non verificabili, dipendente dal fornitore per la loro interpretazione e privo degli strumenti contrattuali necessari per correggere errori, bias o derive prestazionali. L’acquisto di AI nei trasporti deve pertanto essere inteso come una vera e propria progettazione anticipata delle condizioni di controllo pubblico sull’intero ciclo di vita del sistema.

Auditabilità dei sistemi predittivi e controllo umano

Per evitare che i sistemi predittivi si traducano in una forma opaca di decisione amministrativa, la governance algoritmica nei trasporti deve fondarsi su un requisito preliminare: l’auditabilità. Con questo termine non si intende soltanto la possibilità di verificare ex post se il sistema abbia funzionato correttamente, ma la capacità di ricostruire l’intero percorso che collega dati di input, modello, output, intervento umano e decisione finale. L’auditabilità costituisce quindi il punto di raccordo tra i requisiti giuridici di conoscibilità, tracciabilità e responsabilità, da un lato, e le soluzioni ingegneristiche necessarie per rendere ispezionabile il comportamento del sistema, dall’altro.

In tale prospettiva, le metodologie di ExplainableArtificial Intelligence (XAI) assumono un ruolo rilevante, soprattutto quando i sistemi impiegati nei trasporti utilizzano modelli complessi, quali reti neurali profonde, ensemble learning o architetture di computer vision. La XAI non elimina di per sé l’opacità del modello né trasforma automaticamente una previsione statistica in una giustificazione amministrativa. Essa fornisce, piuttosto, strumenti per rendere più comprensibili le relazioni tra variabili, dati osservati e output prodotti, consentendo agli operatori di dominio di interrogare il sistema, individuare possibili anomalie e valutare se la raccomandazione algoritmica sia tecnicamente plausibile. La letteratura sulla SHM basata su AI sottolinea infatti che l’uso di modelli predittivi per infrastrutture critiche richiede non solo accuratezza, ma anche e soprattutto attenzione a trasparenza, affidabilità, privacy, equità e impatti sociali [11].

Le tecniche XAI più diffuse possono essere distinte, in prima approssimazione, tra metodi model-agnostic, applicabili a diversi tipi di modello, e metodi progettati per specifiche architetture. Tra i primi rientrano LIME e SHAP. LIME costruisce una spiegazione locale approssimando il comportamento del modello black box nell’intorno di una singola previsione mediante un modello interpretabile, ad esempio una regressione lineare o un albero decisionale. Il suo valore risiede nella rapidità e nella capacità di spiegare singoli output, ma la sua affidabilità dipende da vari fattori, tra cui la scelta del vicinato locale e la stabilità dell’approssimazione [19].

SHAP, invece, assegna a ciascuna variabile un contributo alla previsione ispirandosi ai valori di Shapley della teoria dei giochi cooperativi. Rispetto a LIME, offre una cornice teorica più strutturata per le spiegazioni additive e consente analisi sia locali sia aggregate; tuttavia, può risultare computazionalmente oneroso e, in molte applicazioni reali, richiede approssimazioni. Per questa ragione, anche SHAP non deve essere interpretato come una prova causale definitiva, ma come uno strumento di attribuzione utile a comprendere quali variabili abbiano maggiormente contribuito all’output del modello [20].

Nel caso di dati non strutturati, come immagini di ponti, viadotti, gallerie o componenti ferroviari acquisite tramite droni o sistemi di visione artificiale, risultano particolarmente utili tecniche orientate alle reti convoluzionali. Tra queste, Grad-CAM genera mappe di attivazione che evidenziano le regioni dell’immagine maggiormente rilevanti per una determinata classificazione o previsione. In un’applicazione di ispezione visiva, ad esempio, una heatmap può indicare se il modello abbia concentrato l’attenzione su una zona compatibile con una fessurazione, una corrosione o un degrado superficiale, oppure su elementi irrilevanti dell’immagine. Ciò consente all’ingegnere o al tecnico ispettore di valutare se l’output sia coerente con il dominio fisico del problema [21].

Dal punto di vista della governance amministrativa, il valore della XAI non consiste nel sostituire il giudizio umano, ma nel creare le condizioni cognitive e documentali affinché tale giudizio possa essere esercitato. Se un sistema predittivo segnala l’opportunità di interrompere un servizio, chiudere un tratto infrastrutturale o anticipare un intervento manutentivo, il funzionario o il tecnico responsabile non può limitarsi a recepire un allarme probabilistico. Deve poter disporre di elementi che chiariscano quali variabili abbiano inciso sulla previsione, quale sia il livello di confidenza dell’output, quali dati siano stati utilizzati, se vi siano anomalie o mancanze informative e se il risultato sia coerente con la conoscenza ingegneristica del bene monitorato. In questo senso, una dashboard basata su strumenti come SHAP, LIME o Grad-CAM non produce automaticamente una motivazione amministrativa, ma fornisce senz’altro materiale tecnico utile per costruirla.

È importante, tuttavia, evitare una fiducia eccessiva nella spiegazione algoritmica. Le tecniche XAI possono produrre risultati instabili, parziali o dipendenti dal metodo utilizzato; spiegazioni diverse possono attribuire importanza a variabili differenti o generare interpretazioni apparentemente discordanti dello stesso output. Per questo motivo, l’auditabilità non può fondarsi su un singolo strumento di explainability, ma deve combinare più livelli: documentazione tecnica del modello, log, versionamento, tracciabilità dei dataset, metriche di performance, verifiche indipendenti, test di robustezza, controlli periodici e validazione da parte di esperti di dominio. La XAI è quindi una componente dell’auditabilità, non il suo sostituto.

Questa impostazione è coerente con il modello di human oversight previsto dall’art. 14 dell’AI Act per i sistemi ad alto rischio. La norma richiede che tali sistemi siano progettati in modo da poter essere efficacemente supervisionati da persone fisiche durante il periodo di utilizzo. Le persone incaricate della supervisione devono essere poste in condizione di comprendere capacità e limiti del sistema, monitorarne il funzionamento, interpretarne correttamente gli output, evitare l’eccessivo affidamento, ignorare o sovrascrivere il risultato e, ove necessario, interrompere il sistema.

Come detto, nel settore dei trasporti, tale supervisione deve essere modulata in funzione del rischio, della latenza decisionale e del grado di autonomia del sistema. Nei casi in cui la decisione comporti ponderazioni amministrative rilevanti, come la rimodulazione dell’offerta di trasporto pubblico, la soppressione di corse, la definizione di priorità manutentive o l’adozione di misure che incidono sull’accessibilità territoriale, appare necessario un modello riconducibile al human-in-the-loop o al human-in-command. In tali contesti, il sistema produce analisi, scenari o raccomandazioni, ma la decisione finale richiede una valutazione umana, capace di considerare obblighi di servizio pubblico, equità, sicurezza, sostenibilità e vincoli di bilancio.

Diverso è il caso dei sistemi a bassa latenza, come il controllo dinamico del traffico, l’adattamento dei cicli semaforici o alcune forme di gestione automatizzata della rete. In questi ambiti, la validazione umana di ogni singola micro-decisione può essere incompatibile con i tempi operativi del sistema. La supervisione assume allora la forma del human-on-the-loop: l’algoritmo opera entro un perimetro predefinito, ma l’operatore umano mantiene il potere di monitorare il sistema, ricevere alert, intervenire sui parametri, attivare modalità di funzionamento degradato, disporre l’override o interrompere il funzionamento in caso di comportamento inatteso. Anche in questi casi, la presenza umana è effettiva solo se sostenuta da log leggibili, indicatori di performance, soglie chiare e procedure operative di escalation.

L’auditabilità tecnica abilita dunque la supervisione umana significativa, ma non la garantisce automaticamente. Occorre che l’amministrazione disponga di competenze, ruoli, tempi e procedure per esercitare una vera challenge function. Gli strumenti XAI rendono il sistema più interrogabile; la challenge function rende l’organizzazione capace di porre domande al sistema, contestarne l’output e discostarsene quando necessario. Senza questa dimensione organizzativa, la spiegazione algoritmica rischia di diventare un adempimento formale: un grafico, una heatmap o una lista di variabili rilevanti che l’operatore non è realmente in grado di valutare, confutare o utilizzare nella motivazione della decisione.

Ne deriva che, nei trasporti, l’auditabilità deve essere progettata sin dall’origine come requisito tecnico, contrattuale e amministrativo. Essa deve essere prevista nel procurement, incorporata nell’architettura del sistema, documentata nei log, resa accessibile agli operatori e collegata alle procedure decisionali. Solo in questo modo la XAI può contribuire a rendere effettiva la supervisione umana richiesta dall’AI Act e a preservare la distinzione tra raccomandazione algoritmica e decisione pubblica (umana). In definitiva, un sistema predittivo non è amministrativamente affidabile solo perché accurato: lo è quando può essere compreso nei suoi limiti, verificato nei suoi output, contestato dai suoi utilizzatori e ricondotto a una responsabilità umana identificabile.

Framework per la governance algoritmica nei trasporti

L’operazionalizzazione della governance algoritmica richiede uno strumento capace di tradurre concetti teorici, requisiti normativi e presìdi organizzativi in criteri valutabili. Nei sistemi predittivi applicati ai trasporti, infatti, la maturità amministrativa non può essere misurata soltanto attraverso l’accuratezza del modello, ma deve includere controllo sui dati, qualità del procurement, auditabilità tecnica, supervisione umana, sicurezza operativa, gestione del ciclo di vita e (soprattutto) imputabilità della decisione. L’AI Act articola gli obblighi dei sistemi ad alto rischio lungo dimensioni quali risk management, data governance, documentazione tecnica, logging, trasparenza, human oversight, accuratezza, robustezza e cybersecurity; le Linee guida AgID sul procurement di AI nella PA, a loro volta, qualificano l’approvvigionamento come leva strategica per assicurare controllo pubblico, sostenibilità degli investimenti e adattabilità nel tempo.

A partire da tali premesse, il presente contributo propone un Transport Algorithmic Governance Capacity Framework (TAG-CF), inteso come schema esplorativo per valutare la capacità amministrativa di un’amministrazione (o di un gestore pubblico) nell’introduzione di sistemi algoritmici nei trasporti. Il framework non pretende di costituire una metrica universale né una classificazione giuridica dei sistemi ai sensi dell’AI Act, che resta da effettuare caso per caso in base alla finalità prevista e al contesto d’uso. Esso mira piuttosto a integrare, in un unico schema operativo, dimensioni normalmente trattate separatamente: mandato pubblico, governance dei dati, procurement, auditabilità, supervisione umana, sicurezza e accountability.

L’originalità del modello non risiede nella forma astratta della matrice di maturità, già diffusa nella letteratura su readiness e governance tecnologica, ma nel suo adattamento al dominio dei sistemi predittivi nei trasporti e nella sua lettura attraverso la categoria della capacità amministrativa algoritmica. Il TAG-CF non valuta soltanto se un algoritmo sia accurato, ma se l’amministrazione conservi potere conoscitivo, contrattuale, tecnico e decisionale sull’intero ciclo di vita del sistema.

Le dimensioni del modello TAG-CF

Il TAG-CF si fonda su sette dimensioni generali, applicabili a diverse famiglie di sistemi predittivi nei trasporti.

La scala di valutazione

Per ciascuna dimensione viene attribuito un punteggio da 0 a 4, secondo una scala unica e coerente.

La formula dell’indice

La readiness complessiva può essere calcolata mediante un indice composito normalizzato (TAG-CI) su scala 0-100:

• TAG-CI = 25 × Σ (wj × Sj),

dove:

• Sj = punteggio attribuito alla dimensione j-esima della matrice, con valore compreso tra 0 e 4;
• wj = peso attribuito alla dimensione j-esima;
• Σj=1,7 wj = 1;
• j = ciascuna delle sette dimensioni del framework.

Il moltiplicatore 25 serve a trasformare il punteggio massimo teorico, pari a 4, in un valore su scala 100. Nella versione base del modello, per garantire semplicità, trasparenza e replicabilità, si può adottare una ponderazione uniforme:

1. wj = 1/7 per ogni dimensione.

In applicazioni successive, i pesi possono essere calibrati attraverso metodi multicriteriali, quali AnalyticHierarchy Process (AHP), Delphi con esperti, o sensitivity analysis. Tuttavia, nel presente paper si propone una versione baseline a pesi uguali, proprio per evitare di introdurre arbitrarietà non validata empiricamente.

Le soglie interpretative

Il valore finale dell’indice può essere interpretato secondo cinque classi di maturità.

Le condizioni bloccanti

Accanto al punteggio aggregato, il modello deve prevedere alcune condizioni bloccanti. Questo è essenziale perché una media alta potrebbe nascondere una lacuna grave. Ad esempio, un sistema potrebbe avere buona documentazione tecnica e buone performance, ma non consentire override umano o accesso ai log. In quel caso non può essere considerato maturo.

Sono quindi condizioni bloccanti:

1. assenza di mandato pubblico o finalità determinata;
2. assenza di accesso ai dati essenziali o alla relativa documentazione;
3. assenza di logging e tracciabilità degli output;
4. assenza di supervisione umana effettiva nei sistemi che incidono su sicurezza, servizi o allocazione di risorse;
5. assenza di procedure di fallback, failsafe o override nei sistemi real-time o safety-critical;
6. assenza di clausole minime anti-lock-in e di exit strategy nei contratti di fornitura.

Se una di queste condizioni è presente, il sistema deve essere classificato come “non ready”, oppure il suo punteggio massimo deve essere limitato alla classe “readiness debole”, indipendentemente dal risultato numerico complessivo.

Esempio TPL: rimodulare il servizio

Si consideri un sistema predittivo destinato a supportare un’agenzia della mobilità nella rimodulazione delle frequenze del TPL. Il sistema elabora dati relativi a bigliettazione, localizzazione dei mezzi, carichi a bordo, ritardi, eventi urbani e condizioni meteo per suggerire aumenti o riduzioni di frequenza su determinate linee. Una valutazione preliminare potrebbe essere la seguente:

Con pesi uguali:

• TAG-CI = 25 × [(3+2+3+2+3+2+2)/7] = 60,7

Il sistema si collocherebbe quindi nella classe:

• Readiness condizionata: 50-69

La conclusione non sarebbe che il sistema è inutilizzabile, ma che può essere impiegato in ambiente controllato, come supporto alla programmazione, purché vengano rafforzati almeno tre presìdi:

1. Qualità e rappresentatività del dato;
2. Auditabilità tecnica e validazione degli strumenti XAI;
3. Ciclo di riesame ex post degli effetti territoriali e distributivi.

L’esempio mostra che il framework non serve a stabilire se l’algoritmo “abbia ragione”, ma se l’amministrazione sia in grado di usarlo senza esserne governata.

L’analisi del framework

Il TAG-CF consente di superare due limiti ricorrenti nel dibattito sull’AI nei trasporti. Il primo è il riduzionismo tecnico, secondo cui la maturità di un sistema dipenderebbe prevalentemente da accuratezza, precisione o performance predittiva. Il secondo è il riduzionismo giuridico-formale, secondo cui sarebbe sufficiente qualificare il sistema come “supporto” per preservare la responsabilità umana. In realtà, un sistema può essere predittivamente accurato e formalmente qualificato come supporto, ma essere comunque amministrativamente immaturo se l’ente pubblico non lo controlla adeguatamente.

Il modello proposto sposta dunque l’attenzione dalla performance dell’algoritmo alla capacità istituzionale di governare l’algoritmo: questa è la parte più innovativa. L’indice non misura soltanto se il sistema funziona, ma se l’amministrazione conserva potere conoscitivo, contrattuale, tecnico e decisionale sull’intero ciclo di vita. In questo senso, la readiness algoritmica non coincide con la disponibilità di tecnologie avanzate, ma con la presenza di condizioni che permettono alla PA di usare sistemi predittivi in modo verificabile, contestabile e responsabile.

La matrice è inoltre generalizzabile. Può essere applicata a sistemi di manutenzione predittiva, regolazione del traffico, pianificazione TPL, MaaS o safety management. Ciò che cambia è il contesto d’uso e, nelle applicazioni future, l’eventuale calibrazione dei pesi. In uno scenario safety-critical peseranno maggiormente robustezza, fallback, auditabilità e override; in uno scenario allocativo, come la rimodulazione del TPL, assumeranno maggiore rilievo equità territoriale, motivazione, challenge function e accountability. Tuttavia, la struttura logica resta invariata.

Ne deriva la tesi centrale del framework, ovvero che la maturità algoritmica di una pubblica amministrazione non si misura dalla disponibilità di modelli predittivi, ma dalla capacità di governarne dati, contratti, output, rischi e responsabilità lungo l’intero ciclo di vita.

Questa formulazione rende il TAG-CF un modello non solo descrittivo, ma operativo: uno strumento per diagnosticare lacune, individuare azioni correttive e valutare se un sistema algoritmico nei trasporti possa essere sperimentato, integrato o debba essere sospeso fino al rafforzamento dei presìdi amministrativi.

Governance algoritmica nei trasporti: implicazioni e responsabilità

L’analisi condotta sinora evidenzia che l’introduzione di sistemi predittivi nei trasporti non costituisce una semplice innovazione tecnica, ma determina una trasformazione della capacità amministrativa. I sistemi di AI applicati alla manutenzione predittiva, alla pianificazione del servizio, alla regolazione dinamica del traffico o alle piattaforme MaaS incidono su funzioni pubbliche che combinano sicurezza, continuità del servizio, allocazione di risorse, accessibilità territoriale e responsabilità organizzativa. In questa prospettiva, il problema non è soltanto se il modello sia accurato, ma se l’amministrazione sia in grado di governare l’intero ciclo che collega dati, modello, fornitore, output, supervisione umana e decisione finale.

La prima implicazione teorica riguarda il rischio di svuotamento della capacità amministrativa. La letteratura sulle system-levelbureaucracies ha mostrato come l’introduzione di sistemi informativi avanzati possa spostare il luogo della discrezionalità dal funzionario di front office alla progettazione del sistema, attribuendo un ruolo crescente ad analisti, sviluppatori e architetture digitali nella traduzione delle regole in procedure operative. L’AI accentua questo processo perché non si limita a codificare regole predefinite, ma elabora inferenze predittive a partire da dati storici, ambientali e operativi. Ne deriva che la delega integrale della catena algoritmica al fornitore privato non è un mero outsourcing tecnologico: può produrre dipendenza conoscitiva, perdita di controllo sul dato, indebolimento della capacità di verifica e riduzione della discrezionalità amministrativa a recepimento passivo di output tecnici.

Questa dinamica è particolarmente critica nei trasporti, dove l’output algoritmico può incidere su scelte ad alto impatto: programmare o rinviare un intervento manutentivo, rimodulare frequenze del TPL, modificare priorità semaforiche, orientare gli utenti verso determinate opzioni di mobilità o classificare condizioni di rischio infrastrutturale. La letteratura sull’AI nel trasporto pubblico mostra che la maggior parte delle applicazioni oggi opera come supporto decisionale per operatori, pianificatori e amministrazioni, più che come automazione piena. Tuttavia, anche i sistemi di supporto possono condizionare pesantemente la decisione finale, soprattutto quando l’amministrazione non dispone di competenze, log, documentazione, strumenti di audit o procedure di contestazione dell’output.

La seconda implicazione riguarda il rapporto tra discrezionalità umana e discrezionalità artificiale. Young, Bullock e Lecy definiscono la artificialdiscretion come impiego dell’AI per aumentare o automatizzare compiti che richiedono decisioni non banali, evidenziando benefici potenziali in termini di scalabilità, riduzione dei costi e qualità, ma anche criticità relative a equità, gestibilità e fattibilità politica. Nel settore dei trasporti, questa distinzione è centrale: un algoritmo può stimare la domanda, individuare anomalie infrastrutturali o ordinare scenari alternativi, ma la scelta pubblica richiede spesso una ponderazione di interessi che eccede la funzione-obiettivo del modello. Efficienza operativa, equità territoriale, sostenibilità ambientale, continuità del servizio, sicurezza e vincoli di bilancio non sono riducibili a un’unica metrica tecnica senza una previa decisione (e condivisione) politica e amministrativa sul loro bilanciamento.

Il quadro normativo conferma questa impostazione. L’art. 14 della legge 23 settembre 2025, n. 132 stabilisce che l’utilizzo dell’AI nella Pubblica Amministrazione ha funzione strumentale e di supporto all’attività provvedimentale, nel rispetto dell’autonomia e del potere decisionale della persona, che resta responsabile dei procedimenti e dei provvedimenti in cui sia stata utilizzata l’AI. Questa previsione non implica che ogni forma di automazione sia di per sé illegittima, ma impone che l’amministrazione mantenga conoscibilità, tracciabilità, controllo e imputabilità della decisione. L’algoritmo può dunque svolgere una funzione istruttoria avanzata, ma non può diventare il luogo opaco in cui si dissolve la responsabilità amministrativa.

La giurisprudenza amministrativa italiana si colloca nella stessa direzione. Il Consiglio di Stato, nella sentenza n. 2270/2019, ha affermato la necessaria conoscibilità del procedimento algoritmico e la sua soggezione ai principi di imparzialità, pubblicità e trasparenza. Nella successiva sentenza n. 8472/2019, il giudice amministrativo ha qualificato l’algoritmo come modulo organizzativo e strumento procedimentale e istruttorio, sottolineando due garanzie minime: conoscibilità del meccanismo e imputabilità della decisione all’organo titolare del potere, che deve poter verificare logicità e legittimità degli esiti affidati all’algoritmo. La decisione pubblica non può pertanto essere schermata dietro l’opacità tecnica del sistema.

La terza implicazione riguarda la responsabilità. In caso di errore del sistema predittivo, la questione non può essere semplificata affermando che la responsabilità ricada sempre e automaticamente sull’amministrazione o sempre sul fornitore. Occorre distinguere tra responsabilità amministrativa interna, responsabilità civile verso terzi, responsabilità erariale, responsabilità contrattuale del fornitore e obblighi specifici del provider o del deployer ai sensi dell’AI Act. Il Regolamento (UE) 2024/1689 distingue infatti requisiti e obblighi lungo il ciclo di vita dei sistemi, imponendo per i sistemi ad alto rischio presìdi relativi a risk management, data governance, documentazione tecnica, logging, trasparenza, human oversight, accuratezza, robustezza e cybersecurity. In questa prospettiva, l’amministrazione non può invocare l’opacità del software come giustificazione organizzativa, ma può e deve presidiare contrattualmente e tecnicamente i punti in cui l’errore può originarsi: dati, training, validazione, aggiornamenti, monitoraggio, drift, cybersecurity e manutenzione.

Da qui discende la centralità del procurement. Le MCC-AI europee e le Linee guida AgID sul procurement di AI nella PA mostrano che l’acquisto di sistemi algoritmici deve essere impostato come gestione anticipata del rischio e non come semplice acquisizione di software. Le MCC-AI distinguono una versione completa per sistemi ad alto rischio e una versione light per sistemi non ad alto rischio, offrendo clausole e commentari utili a introdurre requisiti contrattuali su documentazione, audit, risk management, data governance e cooperazione del fornitore. AgID, a sua volta, qualifica il procurement come leva strategica per collegare scelte tecnologiche, organizzative, economiche e contrattuali, con l’obiettivo di garantire controllo pubblico, sostenibilità dell’investimento e adattabilità nel tempo.

In questo senso, il capitolato diventa il primo presidio di accountability algoritmica. Se la gara non prevede accesso ai log, documentazione tecnica, metriche di performance, requisiti di explainability, clausole anti-lock-in, exit strategy, interoperabilità e audit indipendente, il deficit di governance nasce ancor prima dell’uso operativo del sistema. L’art. 30 del d.lgs. 36/2023, pur riferendosi direttamente all’uso di procedure automatizzate nel ciclo di vita dei contratti pubblici, codifica principi utili anche in chiave sistematica: disponibilità del codice sorgente e della documentazione, conoscibilità e comprensibilità, non esclusività della decisione algoritmica e non discriminazione. Il procurement algoritmico non è quindi un adempimento tecnico-amministrativo, ma il momento in cui l’amministrazione decide se conserverà o perderà capacità di controllo sul sistema.

La quarta implicazione riguarda l’auditabilità tecnica. Le tecniche di XAI, come SHAP, LIME e Grad-CAM, possono contribuire a rendere più interpretabili gli output di modelli complessi, ma non devono essere confuse con una giustificazione automatica della decisione. SHAP assegna contributi alle variabili secondo un’impostazione ispirata ai valori di Shapley, mentre LIME costruisce spiegazioni locali mediante modelli interpretabili approssimati intorno alla singola previsione. Grad-CAM, invece, è particolarmente utile nei modelli di visione artificiale perché produce mappe di attivazione che evidenziano le aree dell’immagine rilevanti per una classificazione. Tuttavia, tali strumenti non eliminano la necessità di validazione tecnica indipendente, giudizio professionale e documentazione amministrativa: rendono il sistema interrogabile, ma non sostituiscono il decisore.

La quinta implicazione riguarda il controllo umano. L’art. 14 dell’AI Act richiede che i sistemi ad alto rischio siano progettati in modo da poter essere effettivamente supervisionati da persone fisiche. I supervisori devono poter comprendere capacità e limiti del sistema, riconoscere il rischio di automationbias, interpretare correttamente gli output, ignorarli o sovrascriverli e interrompere il sistema quando necessario. Pertanto, la presenza di un operatore umano non è sufficiente: occorrono competenze, autorità, tempo decisionale, accesso alle informazioni e procedure che rendano effettiva la possibilità di contestare l’output.

È qui che assume rilievo la challenge function. La recente letteratura sui sistemi di supporto decisionale basati su AI mostra che la mitigazione dell’automationbias non può essere affidata soltanto alla formazione individuale, ma richiede educazione, meccanismi di contestazione e strutture istituzionali che legittimino il dubbio verso la raccomandazione algoritmica. Nel settore dei trasporti, questa funzione può assumere forme diverse: simulazioni preventive, red teaming, audit trail, controlli ex post, procedure di override, verifica indipendente degli output, confronto tra scenari alternativi e motivazione del discostamento. In sistemi real-time, come la regolazione del traffico, la challenge function opera soprattutto a monte e a valle del sistema; in decisioni a maggiore contenuto discrezionale, come la pianificazione del TPL o la definizione di priorità manutentive, essa deve invece entrare nella motivazione della scelta.

Il Transport Algorithmic Governance Capacity Framework proposto nel paper consente di collegare queste implicazioni in un modello operativo. Il suo valore non consiste nel classificare astrattamente una tecnologia come buona o cattiva, ma nel misurare se l’amministrazione disponga dei presìdi necessari per governarla: mandato pubblico, qualità dei dati, procurement, auditabilità, supervisione, sicurezza, accountability e apprendimento organizzativo. L’indice consente inoltre di evitare due riduzionismi. Il primo è il riduzionismo tecnico, secondo cui un sistema sarebbe maturo perché accurato. Il secondo è il riduzionismo giuridico-formale, secondo cui un sistema sarebbe legittimo perché qualificato come mero supporto. In realtà, un sistema può essere accurato e formalmente ausiliario, ma amministrativamente immaturo se l’ente non ne controlla dati, log, contratti, output e responsabilità.

In definitiva, l’adozione di sistemi predittivi nei trasporti richiede una ricalibrazione della capacità amministrativa. La PA non deve scegliere tra rifiuto dell’innovazione e delega opaca alla macchina. Deve piuttosto costruire un modello di governo in cui il sistema algoritmico sia progettato, acquistato, monitorato, spiegato, contestato e aggiornato lungo l’intero ciclo di vita. Solo in questo modo l’AI può diventare una infrastruttura di supporto alla decisione pubblica senza trasformarsi in una nuova forma di outsourcing della discrezionalità.

Governance algoritmica nei trasporti: conclusioni

L’integrazione di sistemi predittivi nei trasporti non coincide con la semplice introduzione di nuovi strumenti digitali, ma con l’emergere di una nuova infrastruttura amministrativa della decisione. Manutenzione predittiva, regolazione dinamica del traffico, pianificazione del trasporto pubblico e piattaforme MaaS mostrano che l’AI non opera ai margini dell’azione pubblica: essa entra nei processi attraverso cui vengono osservati i fenomeni, selezionate le priorità, allocate le risorse e motivate le scelte. La questione centrale, pertanto, non è se la Pubblica Amministrazione debba utilizzare sistemi algoritmici, ma a quali condizioni possa farlo senza perdere controllo tecnico, autonomia organizzativa e responsabilità giuridica.

Il contributo del paper consiste nel proporre una lettura della capacità amministrativa algoritmica come condizione preliminare per l’adozione responsabile dell’AI nei trasporti. Tale capacità non dipende dalla sola accuratezza del modello, ma dalla possibilità di governare l’intero ciclo di vita del sistema: mandato pubblico, qualità dei dati, procurement, auditabilità, supervisione umana, cybersecurity, riesame e apprendimento organizzativo. In questa prospettiva, la maturità algoritmica di un’amministrazione non si misura dalla disponibilità di modelli predittivi avanzati, ma dalla sua capacità di renderli verificabili, contestabili e riconducibili a una decisione pubblica imputabile.

Il Transport Algorithmic Governance Capacity Framework proposto nel lavoro intende offrire un primo strumento operativo per valutare tale maturità. Il suo valore non risiede nel classificare astrattamente le tecnologie come affidabili o non affidabili, ma nel rendere osservabili le condizioni istituzionali che permettono alla PA di usare l’AI senza esserne governata. Come visto, l’indice composito e le condizioni bloccanti associate al framework consentono di superare due limiti ricorrenti nel dibattito: da un lato, il riduzionismo tecnico, che identifica la qualità del sistema con la sua performance predittiva; dall’altro, il riduzionismo formale, che ritiene sufficiente qualificare l’algoritmo come mero supporto per garantire la responsabilità umana.

Il settore dei trasporti rende particolarmente evidente questa esigenza. Una raccomandazione algoritmica può incidere sulla chiusura di un’infrastruttura, sulla priorità di un intervento manutentivo, sulla frequenza di una linea periferica, sulla regolazione del traffico o sulla selezione delle alternative di mobilità offerte agli utenti. In ciascuno di questi casi, la decisione pubblica non può essere assorbita dalla logica della previsione. L’algoritmo può ordinare scenari, stimare rischi, individuare anomalie e suggerire opzioni; l’amministrazione deve invece definire le finalità pubbliche, valutare gli effetti distributivi, motivare la scelta e assumere la responsabilità dell’esito.

Da ciò deriva una conseguenza rilevante anche sul piano delle politiche pubbliche. L’adozione dell’AI nei trasporti non richiede solo investimenti tecnologici, ma una riforma delle competenze e delle procedure amministrative. Servono capitolati capaci di prevenire il lock-in, dati governati come asset pubblici, sistemi auditabili, log accessibili, strumenti di explainability proporzionati al rischio, operatori formati e procedure di challenge che rendano legittimo il dissenso rispetto all’output della macchina. Senza questi presìdi, l’AI rischia di trasformarsi in una forma sofisticata di esternalizzazione della discrezionalità; con questi presìdi, può diventare una leva per decisioni più informate, tempestive e controllabili.

Le prospettive di ricerca future dovranno concentrarsi su tre direzioni. La prima riguarda la validazione empirica del framework proposto, attraverso studi di caso su sistemi di manutenzione predittiva, gestione del traffico, pianificazione del TPL e piattaforme MaaS. La seconda riguarda la calibrazione dei pesi dell’indice mediante metodi multicriteriali, come AHP, Delphi o sensitivity analysis, così da adattare il modello a contesti safety-critical, allocativi o regolatori. La terza riguarda la misurazione degli effetti organizzativi dell’AI: non solo se il sistema predice correttamente, ma se migliora davvero la capacità dell’amministrazione di decidere, spiegare, correggere e apprendere.

In definitiva, la sfida dell’AI nei trasporti non è costruire amministrazioni automatiche, ma amministrazioni aumentate. L’obiettivo non deve essere sostituire la discrezionalità pubblica con la previsione algoritmica, ma rafforzare la capacità delle istituzioni di leggere sistemi complessi, anticipare criticità, motivare le decisioni e rispondere dei loro effetti. La governance algoritmica è quindi matura solo quando l’innovazione tecnologica non oscura la responsabilità pubblica, ma la rende più visibile, tracciabile e sindacabile.

Bibliografia

[1] Å. Jevinger, C. Zhao, J. A. Persson, e P. Davidsson, «Artificial intelligence for improving public transport: a mapping study», Public Transp, vol. 16, fasc. 1, pp. 99–158, mar. 2024, doi: 10.1007/s12469-023-00334-7.

[2] A. Aarab, A. El Marzouki, O. Boubker, e B. El Moutaqi, «Integrating AI in Public Governance: A Systematic Review», Digital, vol. 5, fasc. 4, p. 59, dic. 2025, doi: 10.3390/digital5040059.

[3] AI Act Service Desk, «Critical Infrastructure». Disponibile su: https://ai-act-service-desk.ec.europa.eu/en/critical-infrastructure

[4] J. Hillo, I. Vento, e T. Erkkilä, «Algorithmic Governance: Experimental Evidence on Citizens’ and Public Administrators’ Legitimacy Perceptions of Automated Decision-Making», Public Administration, 2025, doi: 10.1111/padm.70028.

[5] D. de Gennaro, L. Del Barone, F. Buonocore, e F. Riemma, «Algorithmic governance in public organizations: socio-technical reconfiguration, paradoxical tensions, and capability development in four ecosystems», Management Decision, pp. 1–22, feb. 2026, doi: 10.1108/MD-09-2025-2659.

[6] K. Yeung, «Algorithmic Regulation: A Critical Interrogation», 23 maggio 2017, Social Science Research Network, Rochester, NY: 2972505. Disponibile su: https://papers.ssrn.com/abstract=2972505

[7] M. Bovens e S. Zouridis, «From Street-Level to System-Level Bureaucracies: How Information and Communication Technology Is Transforming Administrative Discretion and Constitutional Control», Public Administration Review, vol. 62, fasc. 2, pp. 174–184, 2002.

[8] M. M. Young, J. B. Bullock, e J. D. Lecy, «Artificial Discretion as a Tool of Governance: A Framework for Understanding the Impact of Artificial Intelligence on Public Administration», Perspectives on Public Management and Governance, vol. 2, fasc. 4, pp. 301–313, dic. 2019, doi: 10.1093/ppmgov/gvz014.

[9] G. Olivato, «Consiglio di Stato – sent. 2270/2019: Il procedimento automatizzato utilizzato dalla P.A. deve essere conoscibile e rispettare i principi dell’azione amministrativa», Biodiritto. Disponibile su: https://www.biodiritto.org/AI-Legal-Atlas/AI-Giurisprudenza/Consiglio-di-Stato-sent.-2270-2019-Il-procedimento-automatizzato-utilizzato-dalla-P.A.-deve-essere-conoscibile-e-rispettare-i-principi-dell-azione-amministrativa

[10] Cons. St., sez. VI, 13 dicembre 2019, n. 8472 – Pres. Montedoro, Est. Ponte, Utilizzo degli algoritmi nel procedimento amministrativo. 2019. Disponibile su: https://www.giustizia-amministrativa.it/-/utilizzo-degli-algoritmi-nel-procedimento-amministrativo

[11] V. Plevris e G. Papazafeiropoulos, «AI in Structural Health Monitoring for Infrastructure Maintenance and Safety», Infrastructures, vol. 9, fasc. 12, p. 225, dic. 2024, doi: 10.3390/infrastructures9120225.

[12] A. Agrahari, M. M. Dhabu, P. S. Deshpande, A. Tiwari, M. A. Baig, e A. D. Sawarkar, «Artificial Intelligence-Based Adaptive Traffic Signal Control System: A Comprehensive Review», Electronics, vol. 13, fasc. 19, p. 3875, gen. 2024, doi: 10.3390/electronics13193875.

[13] OECD/ITF, «Integrating Public Transport into Mobility as a Service», ITF, 2021, doi: https://doi.org/10.1787/94052f32-en.

[14] Y.-K. Heng, «Upskilling human actors against AI automation bias in strategic decision making on the resort to force», Cambridge Forum on AI: Law and Governance, vol. 1, p. e53, gen. 2025, doi: 10.1017/cfl.2025.10029.

[15] Agid, «Linee guida su IA nella PA: al via la consultazione pubblica su sviluppo e procurement». Disponibile su: https://www.agid.gov.it/it/notizie/linee-guida-su-ia-nella-pa-al-la-consultazione-pubblica-su-sviluppo-e-procurement

[16] F. Molinari, N. C. Van, L. Vaccari, F. Pignatelli, e L. Tangi, «AI Watch. Beyond pilots: sustainable implementation of AI in public services», JRC Publications Repository, 2021, doi: 10.2760/440212.

[17] Public Buyers Community, «Updated EU AI model contractual clauses | Public Buyers Community». Disponibile su: https://public-buyers-community.ec.europa.eu/communities/procurement-ai/resources/updated-eu-ai-model-contractual-clauses

[18] M. Manzoni, R. Medaglia, L. Tangi, N. C. Van, L. Vaccari, e D. Gattwinkel, AI Watch Road to the adoption of Artificial Intelligence by the Public Sector: A Handbook for Policymakers, Public Administrations and Relevant Stakeholders. 2022. doi: 10.2760/288757.

[19] M. T. Ribeiro, S. Singh, e C. Guestrin, «“Why Should I Trust You?”: Explaining the Predictions of Any Classifier», 9 agosto 2016, arXiv: arXiv:1602.04938. doi: 10.48550/arXiv.1602.04938.

[20] S. M. Lundberg e S.-I. Lee, «A Unified Approach to Interpreting Model Predictions», in Advances in Neural Information Processing Systems, Curran Associates, Inc., 2017. Disponibile su: https://proceedings.neurips.cc/paper/2017/hash/8a20a8621978632d76c43dfd28b67767-Abstract.html

[21] R. R. Selvaraju, M. Cogswell, A. Das, R. Vedantam, D. Parikh, e D. Batra, «Grad-CAM: Visual Explanations From Deep Networks via Gradient-Based Localization», presentato al Proceedings of the IEEE International Conference on Computer Vision, 2017, pp. 618–626. Disponibile su: https://openaccess.thecvf.com/content_iccv_2017/html/Selvaraju_Grad-CAM_Visual_Explanations_ICCV_2017_paper.html