AI Act e PA, il nuovo obbligo è governare insieme l’innovazione

Le nuove regole europee sull’intelligenza artificiale non introducono soltanto nuovi obblighi giuridici e tecnologici. Chiedono alle pubbliche amministrazioni di ripensare il proprio modo di organizzarsi, condividere competenze e assumere responsabilità comuni, perché la complessità del cambiamento rende sempre meno praticabile affrontarlo da soli.

L’equivoco da cui partire

Quando si parla di Artificial Intelligence Act, l’attenzione si concentra quasi sempre sugli aspetti tecnologici. Si discute dei modelli di intelligenza artificiale, dei chatbot, dei sistemi generativi, dei rischi connessi al loro utilizzo e dei nuovi adempimenti introdotti dal regolamento europeo. Tutti temi certamente rilevanti. A mio avviso, però, c’è un aspetto che merita di essere messo maggiormente in evidenza e che rappresenta probabilmente la novità più significativa introdotta dall’AI Act.

Il regolamento europeo non si limita infatti a disciplinare l’utilizzo dell’intelligenza artificiale. Introduce un insieme di obblighi organizzativi che cambiano il modo in cui le pubbliche amministrazioni sono chiamate ad affrontare l’innovazione. La questione, quindi, non riguarda soltanto quali strumenti utilizzare o come garantire la conformità dei sistemi adottati. Riguarda la capacità delle amministrazioni di organizzarsi per poterli governare.

È un passaggio che ritengo fondamentale. L’Artificial Intelligence Act attribuisce responsabilità differenti ai soggetti che progettano, sviluppano, mettono a disposizione e utilizzano i sistemi di intelligenza artificiale. Richiede di valutare i rischi, di documentare i processi, di garantire una supervisione umana effettiva, di monitorare nel tempo il comportamento dei sistemi e, soprattutto, di dimostrare che tutto questo avvenga secondo procedure adeguate. Si tratta di obblighi che, prima ancora di richiedere competenze tecnologiche, richiedono capacità organizzativa.

È proprio sotto questo profilo che, a mio avviso, emerge il cambiamento più rilevante. Se fino a ieri era ancora possibile immaginare che ciascuna amministrazione affrontasse autonomamente il proprio percorso di trasformazione digitale, il nuovo quadro europeo rende evidente come questa prospettiva rischi di non essere più sostenibile, soprattutto per gli enti di dimensioni minori. Non perché manchino le tecnologie, ma perché cresce il livello di responsabilità, aumentano gli adempimenti e diventa necessario mettere insieme competenze molto diverse tra loro.

Per questo motivo la collaborazione non rappresenta semplicemente una modalità più efficiente di lavorare. Diventa il presupposto per riuscire ad affrontare obblighi che il singolo ente difficilmente potrebbe sostenere da solo. Ed è probabilmente questa la prospettiva nella quale l’Artificial Intelligence Act dovrebbe essere letto: non soltanto come una disciplina dell’intelligenza artificiale, ma come un regolamento che impone alle amministrazioni di ripensare il proprio modo di organizzarsi e di collaborare.

Perché un Comune da solo non basta più

Se il cambiamento introdotto dall’Artificial Intelligence Act è, prima ancora che tecnologico, organizzativo, allora diventa inevitabile interrogarsi su quale sia la dimensione più adeguata per affrontarlo.

L’esperienza delle amministrazioni locali ci mostra una realtà molto eterogenea. Accanto a enti di grandi dimensioni, dotati di strutture tecniche articolate, esistono centinaia di Comuni che devono garantire gli stessi diritti ai cittadini con risorse organizzative, economiche e professionali inevitabilmente più limitate. È proprio guardando a questa realtà che emerge con maggiore evidenza la necessità di un cambio di prospettiva.

Gli obblighi introdotti dall’Artificial Intelligence Act richiedono competenze giuridiche, tecnologiche, organizzative e gestionali che difficilmente possono essere concentrate all’interno di un singolo ente. Pensare che ogni Comune possa affrontare autonomamente questo percorso significherebbe immaginare che ciascuno sia in grado di dotarsi delle professionalità necessarie per valutare i rischi, governare il trattamento dei dati, assicurare la conformità normativa, monitorare il funzionamento dei sistemi e mantenerne il controllo nel tempo. Si tratta di un obiettivo che, soprattutto per le amministrazioni di dimensioni più ridotte, appare difficilmente sostenibile.

È anche per questa ragione che considero particolarmente interessante un’impostazione nella quale i Comuni affrontano questa sfida insieme, condividendo problemi che sono sostanzialmente gli stessi, all’interno di un contesto nel quale altri soggetti possono contribuire con competenze differenti. La Provincia e la Regione possono svolgere una funzione di coordinamento e accompagnamento. L’Università può mettere a disposizione competenze scientifiche e giuridiche. Altri soggetti possono offrire capacità tecnologiche e supporto specialistico. Nessuno sostituisce le amministrazioni nelle loro responsabilità, ma ciascuno contribuisce a rendere affrontabile una complessità che, altrimenti, rischierebbe di risultare eccessiva per il singolo ente.

Questo approccio presenta, naturalmente, anche un costo. Costruire strumenti condivisi richiede più tempo, maggiore coordinamento e uno sforzo organizzativo iniziale superiore rispetto all’acquisto di una soluzione già disponibile sul mercato. È una strada più impegnativa e, almeno nella fase iniziale, anche più complessa. Tuttavia offre un vantaggio difficilmente trascurabile: consente alle amministrazioni di costruire strumenti maggiormente aderenti alle proprie esigenze e, soprattutto, di ridurre progressivamente forme di dipendenza tecnologica che, nel lungo periodo, rischiano di limitare la loro capacità di governo.

Vi è poi un ulteriore elemento che merita attenzione. La collaborazione non produce soltanto economie di scala o una migliore distribuzione delle competenze. Produce apprendimento. Le amministrazioni si trovano ad affrontare problemi analoghi, commettono errori simili, individuano soluzioni che possono essere condivise e progressivamente migliorate. In un ambito nel quale il quadro normativo continua a evolvere e le tecnologie cambiano con estrema rapidità, questa capacità di apprendere reciprocamente rappresenta probabilmente uno degli strumenti più importanti di cui le amministrazioni possano disporre.

È sotto questo profilo che la collaborazione assume un valore diverso rispetto al passato. Non costituisce semplicemente una modalità più efficiente di organizzare il lavoro amministrativo. Diventa una delle condizioni attraverso le quali è possibile rendere concretamente applicabile un quadro normativo che attribuisce alle amministrazioni responsabilità nuove e particolarmente impegnative.

Gli obblighi dell’AI Act sono soprattutto obblighi organizzativi

Per comprendere perché la collaborazione diventi così importante è necessario entrare, almeno sinteticamente, nella logica con cui è costruito l’Artificial Intelligence Act.

Molto spesso il regolamento viene raccontato come un insieme di divieti o di prescrizioni rivolte a chi sviluppa sistemi di intelligenza artificiale. In realtà la sua impostazione è più articolata. L’obiettivo del legislatore europeo non è rallentare l’innovazione, ma provare a conciliare due esigenze che devono necessariamente procedere insieme: favorire lo sviluppo dell’intelligenza artificiale e, allo stesso tempo, garantire la tutela dei diritti fondamentali delle persone. È questa la filosofia che attraversa l’intero regolamento.

Per raggiungere questo equilibrio l’AI Act non introduce un’unica disciplina valida per qualsiasi applicazione, ma adotta un approccio fondato sul rischio. È una logica che il diritto amministrativo conosce da sempre. Quando un’amministrazione deve autorizzare un intervento edilizio non utilizza lo stesso procedimento per qualsiasi opera. Se si tratta di un intervento di modesta entità può essere sufficiente una semplice comunicazione. In altri casi è prevista una SCIA. Se l’intervento è più complesso diventa necessaria un’autorizzazione articolata, mentre esistono opere che non possono essere realizzate perché il rischio per gli interessi pubblici è considerato inaccettabile. Il principio è semplice: all’aumentare del rischio aumentano gli obblighi, le verifiche e le garanzie richieste. L’Artificial Intelligence Act adotta essenzialmente la medesima impostazione. Non disciplina l’intelligenza artificiale come se tutte le applicazioni fossero uguali, ma distingue i sistemi in funzione del rischio che possono determinare per i diritti delle persone.

Questa scelta è tutt’altro che formale. Significa, ad esempio, che un sistema utilizzato esclusivamente per migliorare l’organizzazione interna di un’amministrazione sarà soggetto a obblighi molto diversi rispetto a un sistema che contribuisce a orientare decisioni amministrative destinate a incidere direttamente sulla vita dei cittadini. Più aumenta il rischio di incidere direttamente sui diritti e le libertà dei cittadini, più aumenta il livello di attenzione richiesto dal legislatore europeo.

Da questa impostazione discende un secondo elemento fondamentale. L’Artificial Intelligence Act distingue chiaramente le responsabilità di chi progetta un sistema di intelligenza artificiale da quelle di chi lo utilizza. Il provider è chiamato a documentare l’intero processo di progettazione, a ridurre per quanto possibile il margine di errore, a garantire trasparenza e a predisporre il sistema affinché possa essere realmente sottoposto a supervisione umana. Il deployer, cioè l’amministrazione che decide di utilizzare quel sistema, non può limitarsi ad acquistarlo e metterlo in funzione. Deve valutarne preventivamente l’impatto, monitorarne il comportamento nel tempo, verificarne gli effetti e garantire che il controllo umano rimanga effettivo durante tutto il ciclo di vita dell’applicazione.

È proprio qui che emerge con maggiore chiarezza la natura organizzativa dell’AI Act. Nessuno di questi obblighi può essere assolto una volta per tutte. Non basta acquistare un prodotto conforme, né è sufficiente che il fornitore dichiari di aver rispettato tutti i requisiti previsti dalla normativa. L’amministrazione mantiene una responsabilità continua. Deve interrogarsi sulla qualità dei dati che alimentano il sistema, verificarne periodicamente il funzionamento, accorgersi quando il contesto cambia e valutare se quello strumento continui a produrre risultati coerenti con gli obiettivi per i quali è stato adottato.

È in questo contesto che la collaborazione assume un significato ancora più concreto. Se un piccolo Comune dovesse affrontare da solo tutte queste attività, difficilmente potrebbe disporre delle competenze necessarie per farlo in modo continuativo. Se, invece, le amministrazioni condividono esperienza, conoscenze e capacità di valutazione, diventa possibile costruire quella supervisione che il regolamento europeo considera indispensabile. La supervisione umana, infatti, non dipende soltanto dalla presenza di un funzionario chiamato a validare una decisione. Dipende anche dalla qualità dell’organizzazione che lo mette nelle condizioni di esercitare realmente quel controllo e dalla possibilità di confrontarsi con altre amministrazioni che stanno affrontando le stesse sfide. È questo, probabilmente, uno degli aspetti più innovativi introdotti dall’Artificial Intelligence Act.

La supervisione umana non si improvvisa

Tra tutti gli obblighi introdotti dall’Artificial Intelligence Act ce n’è uno che, probabilmente più degli altri, sintetizza la complessità della sfida che abbiamo davanti: garantire un’effettiva supervisione umana.

È un principio che ricorre più volte nel regolamento europeo e che, almeno a una prima lettura, potrebbe apparire relativamente semplice da applicare. Potrebbe sembrare sufficiente prevedere che, prima della decisione finale, intervenga una persona incaricata di verificare l’esito prodotto dal sistema di intelligenza artificiale. In realtà il problema è molto più complesso.

Perché una supervisione possa dirsi realmente efficace non basta che un essere umano sia formalmente presente nel processo decisionale. Occorre che sia concretamente in grado di comprendere il funzionamento del sistema, individuare eventuali anomalie, riconoscere possibili errori e, quando necessario, discostarsi dalle indicazioni fornite dalla macchina. È questo il significato autentico del controllo umano richiesto dall’Artificial Intelligence Act.

È una sfida particolarmente impegnativa proprio perché i sistemi di intelligenza artificiale presentano caratteristiche che rendono questo controllo tutt’altro che scontato. I modelli più avanzati operano attraverso livelli di elaborazione estremamente profondi e opachi. Noi siamo perfettamente in grado di valutare se, nella maggior parte dei casi, il risultato prodotto sia corretto. Molto più difficile è ricostruire il percorso attraverso il quale quel risultato è stato raggiunto. Questa opacità rappresenta una delle ragioni per cui il legislatore europeo insiste tanto sulla supervisione umana.

A ciò si aggiunge un ulteriore elemento che merita attenzione. Esiste ormai un’ampia letteratura che descrive quello che viene definito automation bias: la naturale tendenza delle persone ad attribuire maggiore affidabilità alle indicazioni fornite da un sistema automatizzato, soprattutto quando questo dimostra nel tempo di produrre risultati generalmente corretti.

Un esempio molto significativo proviene dall’ambito sanitario. In radiologia l’intelligenza artificiale viene già utilizzata come supporto all’interpretazione delle immagini diagnostiche. Quando il sistema si dimostra affidabile nella maggior parte dei casi, il medico tende progressivamente ad affidarsi alle sue indicazioni e a ridurre il livello di verifica critica. Paradossalmente, proprio perché il sistema funziona bene, aumenta il rischio che alcuni errori non vengano più intercettati dall’operatore umano. La presenza del professionista, quindi, non costituisce di per sé una garanzia sufficiente. La supervisione è realmente efficace soltanto se chi la esercita mantiene la capacità di valutare autonomamente il risultato prodotto dalla macchina, senza limitarsi a convalidarlo.

Per la Pubblica Amministrazione questo aspetto assume un rilievo ancora maggiore. Le decisioni amministrative devono essere motivate, devono poter essere spiegate e devono rimanere riconducibili alla responsabilità dell’amministrazione stessa. Se il controllo umano diventa puramente formale, il rischio non è soltanto quello di commettere errori. È quello di perdere progressivamente la capacità di esercitare quella responsabilità che costituisce uno dei principi fondamentali dell’azione amministrativa.

Anche sotto questo profilo emerge l’importanza della collaborazione. Costruire una supervisione umana realmente efficace non significa soltanto formare i singoli funzionari. Significa mettere le amministrazioni nelle condizioni di confrontarsi, condividere le esperienze maturate nell’utilizzo dei sistemi di intelligenza artificiale, verificare insieme le criticità riscontrate e costruire progressivamente un patrimonio comune di conoscenze. La supervisione umana diventa così non soltanto una responsabilità individuale, ma una capacità organizzativa che cresce attraverso il confronto continuo tra amministrazioni, università e competenze specialistiche. È probabilmente questa la strada più solida per trasformare un obbligo previsto dal regolamento europeo in una pratica realmente efficace.

Il rischio più grande è pensare di poter aspettare

Esiste un rischio che, a mio avviso, precede tutti gli altri ed è quello di considerare l’intelligenza artificiale come un fenomeno che possa essere affrontato in un secondo momento, quando il quadro normativo sarà definitivamente consolidato o quando le tecnologie avranno raggiunto una maggiore maturità. Credo sia un errore.

L’intelligenza artificiale è già entrata nelle amministrazioni pubbliche. In molti casi non attraverso progetti formalmente avviati dagli enti, ma attraverso il comportamento quotidiano delle persone che vi lavorano. È ragionevole ritenere che una parte crescente dei dipendenti utilizzi già strumenti di intelligenza artificiale generativa per scrivere testi, sintetizzare documenti, elaborare informazioni o svolgere attività di supporto al proprio lavoro. Ignorare questo fenomeno non significa impedirne la diffusione. Significa semplicemente rinunciare a governarlo.

È proprio questa la ragione per cui ritengo importante che le amministrazioni affrontino il tema in modo consapevole. Non per introdurre divieti generalizzati né per rallentare l’innovazione, ma per creare le condizioni affinché queste tecnologie possano essere utilizzate all’interno di un quadro di responsabilità chiaro e condiviso.

Da questo punto di vista, costruire un sistema di intelligenza artificiale adeguato alle esigenze della Pubblica Amministrazione rappresenta certamente la strada più impegnativa. Richiede tempo, investimenti, coordinamento e capacità progettuale. È sicuramente più semplice rivolgersi al mercato e acquistare una soluzione già disponibile. Tuttavia questa scelta, se rappresenta spesso la soluzione più rapida nel breve periodo, non sempre coincide con quella più sostenibile nel medio e lungo termine. Costruire strumenti pensati a partire dalle esigenze dell’amministrazione significa poterli adattare progressivamente ai propri processi, ridurre la dipendenza da soluzioni esterne e sviluppare una maggiore capacità di governo delle tecnologie che si utilizzano.

Naturalmente questo non significa immaginare che ogni amministrazione debba sviluppare autonomamente i propri sistemi di intelligenza artificiale. Sarebbe esattamente il contrario di quanto sostenuto fin qui. Significa piuttosto creare le condizioni perché più amministrazioni possano condividere questo percorso, mettendo in comune competenze, dati, esperienze e capacità progettuali. È in questo modo che diventa possibile affrontare un cambiamento che nessun ente, soprattutto se di piccole dimensioni, potrebbe realisticamente sostenere da solo.

In fondo è questo il messaggio che, a mio avviso, emerge con maggiore chiarezza dall’Artificial Intelligence Act. Il regolamento non invita le amministrazioni a essere prudenti aspettando che altri trovino le soluzioni. Chiede loro di cominciare a costruirle, assumendosi la responsabilità di governare un fenomeno che è già parte della realtà quotidiana.

Una sfida che riguarda il futuro della Pubblica Amministrazione

L’Artificial Intelligence Act viene spesso presentato come il primo grande regolamento europeo dedicato all’intelligenza artificiale. È certamente anche questo. Ma, osservandolo dal punto di vista delle amministrazioni pubbliche, credo che rappresenti qualcosa di più.

È un invito a ripensare il modo in cui la Pubblica Amministrazione affronta l’innovazione.

Per molti anni abbiamo immaginato la trasformazione digitale come un insieme di progetti affidati ai singoli enti, ciascuno impegnato a individuare le proprie soluzioni e a sviluppare autonomamente le competenze necessarie. L’intelligenza artificiale ci mostra con particolare evidenza che questa impostazione rischia di non essere più sufficiente. Non perché manchino le tecnologie, ma perché cresce il livello di complessità che le amministrazioni sono chiamate a governare.

Le responsabilità introdotte dall’Artificial Intelligence Act richiedono competenze multidisciplinari, capacità di valutazione, monitoraggio continuo, aggiornamento costante e una supervisione umana che non può essere ridotta a un adempimento formale. È difficile immaginare che tutto questo possa essere sostenuto efficacemente da amministrazioni che operano in modo isolato.

Per questo ritengo che la collaborazione rappresenti molto più di una modalità organizzativa conveniente. Diventa uno strumento attraverso il quale costruire quella massa critica di competenze, esperienze e capacità di valutazione che il nuovo quadro europeo rende sempre più necessaria. Condividere problemi, confrontare le soluzioni adottate, imparare dagli errori e mettere a fattor comune le conoscenze maturate significa rendere più robusta la capacità delle amministrazioni di esercitare quella responsabilità che il regolamento continua giustamente ad attribuire loro.

In fondo è questo il messaggio che, a mio avviso, attraversa l’intero Artificial Intelligence Act. L’innovazione non consiste semplicemente nell’introdurre nuovi strumenti tecnologici all’interno della Pubblica Amministrazione. Consiste nel creare le condizioni perché queste tecnologie possano essere governate in modo consapevole, mantenendo al centro i principi di responsabilità, trasparenza e tutela dei diritti che caratterizzano l’azione amministrativa.

È una sfida che richiede certamente competenze tecnologiche e giuridiche. Ma richiede, prima ancora, amministrazioni capaci di collaborare.

Conclusioni

L’intelligenza artificiale rappresenta una delle trasformazioni più profonde che la Pubblica Amministrazione si trovi oggi ad affrontare. Sarebbe però un errore pensare che questa sfida possa essere affrontata esclusivamente attraverso l’acquisizione di nuove tecnologie o il semplice adeguamento a un nuovo quadro normativo.

L’Artificial Intelligence Act ci affida una responsabilità più ampia. Ci chiede di costruire amministrazioni capaci di comprendere le tecnologie che utilizzano, di governarne gli effetti, di mantenere il controllo delle decisioni e di tutelare i diritti delle persone anche in un contesto nel quale i processi amministrativi diventano inevitabilmente più complessi.

Per riuscirci saranno certamente necessari investimenti, competenze e innovazione. Ma sarà altrettanto necessario ripensare il modo in cui le amministrazioni collaborano tra loro. La condivisione delle competenze, delle esperienze e delle responsabilità non rappresenta soltanto un’opportunità organizzativa. Diventa una delle condizioni che consentono di applicare concretamente i principi sui quali l’Artificial Intelligence Act è costruito.

È anche per questo che considero particolarmente significative esperienze come PerugIA Next. Non tanto perché propongano una specifica soluzione tecnologica, quanto perché sperimentano un metodo di lavoro fondato sulla collaborazione tra amministrazioni, università e soggetti in grado di offrire competenze specialistiche. È esattamente questa capacità di fare massa critica, condividere conoscenze e affrontare insieme problemi che nessun ente potrebbe sostenere da solo che, a mio avviso, rappresenta uno degli insegnamenti più importanti del nuovo quadro europeo.

In fondo, credo che questo sia il messaggio più profondo dell’Artificial Intelligence Act. Il futuro della Pubblica Amministrazione non dipenderà soltanto dalla qualità delle tecnologie che saprà adottare. Dipenderà dalla qualità delle relazioni che saprà costruire, dalla capacità di condividere competenze e responsabilità e dalla consapevolezza che governare l’intelligenza artificiale significa, prima di tutto, imparare a governare insieme la complessità.