Un’azienda sanitaria che oggi utilizza un sistema di intelligenza artificiale (per la refertazione radiologica, per la stratificazione del rischio dei pazienti, per la gestione delle agende) deve verificare che quel sistema non produca discriminazioni?
La risposta è sì. E non in forza dell’AI Act, i cui obblighi sui sistemi ad alto rischio sono stati rinviati dal Reg. UE 2026/1744 (noto come Digital Omnibus sull’IA), ma in forza dell’art. 7 della legge 23 settembre 2025, n. 132, che è già pienamente in vigore.
È vero infatti che il sopracitato Omnibus digitale sull’IA (in vigore dal 27 luglio 2026), ha differito al 2 dicembre 2027 l’applicazione delle disposizioni del Capo III, sezioni 1, 2 e 3, nelle quali è compreso l’art. 27 sulla valutazione d’impatto sui diritti fondamentali, ma quel rinvio non tocca la legge italiana: l’art. 7 della legge n. 132/2025, in vigore dal 10 ottobre 2025, stabilisce al comma 2 che l’introduzione di sistemi di intelligenza artificiale nel sistema sanitario non può selezionare né condizionare l’accesso alle prestazioni sanitarie secondo criteri discriminatori. In sanità, dunque, l’obbligo di verifica c’è già.
Indice degli argomenti
La metodologia FRIA per applicare l’art. 7 in sanità
Ora un documento della Commissione europea (che nasce per la valutazione etica dei progetti di ricerca finanziati con fondi Horizon Europe) ci fornisce una metodologia di valutazione d’impatto sui diritti fondamentali che può essere utilizzata in generale, anche in altri contesti quale quello sanitario.
Vediamo allora che cosa è questo documento, perché serve adesso, come funziona il metodo e come lo si applica a un caso concreto.
Un documento nato per la ricerca, utile oltre Horizon Europe
Il documento a cui ci riferiamo è il Fundamental Rights Impact Assessment (FRIA) and AI – Ethics advice for researchers and ethics experts, datato maggio 2026, predisposto per il Research Ethics & Integrity Team della Direzione generale Ricerca e innovazione della Commissione europea.
Il Reader’s guide dichiara che lo scopo del documento è fornire una metodologia di FRIA nel contesto della procedura di ethics review di Horizon Europe. Il contenitore, dunque, è la ricerca.
Ma il contenuto è molto più ampio. Lo dice il documento stesso, quando distingue espressamente la «FRIA» in senso generale dalla «AIA FRIA», cioè la valutazione specifica prevista dall’art. 27 del Regolamento (UE) 2024/1689 (AI Act): il testo precisa infatti che userà il primo termine per la valutazione d’impatto sui diritti fondamentali in generale e il secondo per quella dell’art. 27 AI ACT.
Il Reader’s guide aggiunge che la metodologia proposta è allineata all’AI Act e ai suoi obblighi in materia, e in più punti i destinatari indicati non sono i ricercatori ma i «providers and deployers» dei sistemi, cioè le categorie dell’AI Act.
Come funziona la metodologia FRIA per valutare i rischi
Veniamo ora al metodo.
L’impianto è quello classico di qualunque valutazione del rischio, lo stesso che da anni abbiamo imparato ad applicare nella valutazione d’impatto sulla protezione dei dati. Si misura la probabilità che l’evento dannoso si verifichi e la gravità delle conseguenze, si combinano le due dimensioni, si ottiene un livello di rischio, si adottano misure, si ricalcola il rischio residuo.
Più precisamente, il documento articola ciascuna delle due dimensioni in due variabili.
- La probabilità dell’impatto combina la probabilità che le conseguenze negative si verifichino e l’esposizione, cioè la misura in cui le persone potenzialmente a rischio ne sono toccate (e il documento precisa che l’esposizione si calcola sul gruppo dei potenziali interessati, non sull’intera popolazione).
- La gravità dell’impatto combina la gravità del pregiudizio nell’esercizio del diritto (tenendo conto dell’impatto su gruppi specifici, della vulnerabilità e delle situazioni di dipendenza) e lo sforzo necessario per superarlo e invertirne gli effetti.
Quattro variabili, due dimensioni, un indice. Lo schema è riassunto nella figura che segue.
Fig. 1 – Lo schema dell’indice di rischio FRIA (elaborazione su Commissione europea, 2026).
Ogni variabile si gradua su quattro livelli (basso, medio, alto, molto alto), descritti in tabella con formulazioni operative, e le combinazioni si fanno con matrici qualitative. Il documento preferisce la matrice 4×4, motivando la scelta: riduce il rischio di posizionamento medio, dà maggiore attenzione ai livelli alto e molto alto in coerenza con la centralità dell’alto rischio nell’approccio regolatorio all’IA, e non frammenta eccessivamente la parte bassa della scala.
Ogni diritto va valutato senza compensazioni
Si afferma poi – e questo è un punto cardine – che ogni diritto va valutato a sé stante, senza compensazione.
Più precisamente ciascun diritto fondamentale va considerato autonomamente quanto al pregiudizio potenziale, e il fatto che un diritto sia inciso meno di un altro non può dar luogo ad alcuna forma di compensazione. Il testo riconosce che la metodologia della ricerca sociale consentirebbe di costruire un indice composito che aggrega tutti gli impatti, ma afferma che un simile approccio contrasta con l’impostazione giuridica dei diritti fondamentali, dove ogni diritto va considerato indipendentemente.
Ritengo che questo sia il passaggio più importante dell’intero documento, e quello che rischia di mettere in crisi gran parte degli strumenti di AI governance già oggi in circolazione.
Da questa regola discendono infatti le altre due prescrizioni negative. Non si frammenta il diritto inciso in componenti distinte, perché si finirebbe per contarlo due volte, come elemento autonomo e come componente del diritto generale. E non si usano numeri assoluti né approcci puramente matematici alla graduazione: variabili, indicatori e indici non devono usare valori numerici, ma scale qualitative con criteri di graduazione trasparenti.
Diritti fondamentali prima dell’efficienza economica
Un’ultima precisazione di impianto che ha ricadute pratiche immediate. La FRIA è una valutazione orientata ai valori: i diritti fondamentali prevalgono e non possono essere compressi per ragioni di mero interesse economico o di maggiore efficienza della soluzione. Il beneficio atteso dal sistema, quindi, non entra nel calcolo dell’impatto. Il bilanciamento con interessi concorrenti interviene solo dopo, come fattore esterno, e comunque non esonera dalle misure di mitigazione del rischio residuo.
I diritti fondamentali da esaminare nella FRIA
Altro elemento di estremo interesse pratico è l’elenco dettagliato dei diritti che occorre valutare.
La Tabella 1 dell’Allegato I percorre i diritti e le libertà della Carta dei diritti fondamentali dell’Unione europea (circa trenta voci, dall’art. 1 all’art. 49) e per ciascuno riporta il contenuto del diritto, un commento esplicativo ed esempi concreti di possibile impatto dell’IA. La Tabella 2 incrocia poi categorie di rischio e impatti sui diritti.
Più esattamente: dignità umana (art. 1), diritto all’integrità della persona (art. 3), rispetto della vita privata e familiare (art. 7), protezione dei dati di carattere personale (art. 8), non discriminazione (art. 21), diversità culturale, religiosa e linguistica (art. 22), parità tra donne e uomini (art. 23), diritti del bambino (art. 24), sicurezza sociale e assistenza sociale (art. 34), protezione della salute (art. 35), diritto a una buona amministrazione (art. 41), diritto a un ricorso effettivo (art. 47).
Gli esempi che il documento porta sotto queste voci sono molto concreti.
Sotto la dignità umana compaiono i sistemi di IA usati per individuare e dare priorità alle persone bisognose di assistenza sociale, che possono produrre risultati distorti escludendo chi resta privo di risorse per i bisogni primari, e i sistemi di triage automatizzato nei pronto soccorso, che possono incidere sulla relazione medico-paziente. Circa il diritto all’integrità della persona compaiono gli strumenti di IA usati in medicina per individuare patologie o predire il trattamento più appropriato, con i rischi che ne derivano in caso di bias.
Chi deve mappare oggi i sistemi di IA presenti in azienda sanitaria ha qui, già pronta, la griglia dei diritti da interrogare.
Linee guida FRIA per valutatori e revisori
Il terzo elemento di interesse (e il più originale) è che il documento fornisce due distinte linee guida: una per chi deve svolgere materialmente la FRIA, l’altra per i comitati etici chiamati a valutarla.
Il questionario per chi conduce la valutazione
Il § II.4 contiene le Guidelines for researchers: il questionario per chi deve svolgere materialmente la valutazione. Le domande ricostruiscono il percorso, dalla descrizione del sistema e dei flussi di dati all’identificazione dei titolari dei diritti e dei soggetti obbligati, fino alla misurazione dell’impatto su ciascun diritto, ai fattori di esclusione, alle misure e al loro riesame.
Due domande possono chiudere la valutazione: la prima chiede se il sistema possa incidere su esseri umani e società, e se non è previsto alcun impatto basta una breve giustificazione; l’altra chiede se l’uso dell’IA sia determinante per gli obiettivi perseguiti e se siano possibili alternative, in tutto o in parte.
Interessante è poi la marcatura delle domande. Ciascuna porta un indicatore che segnala chi deve rispondere: il soggetto che conduce il progetto da solo, oppure insieme a un esperto di diritti fondamentali, oppure ancora con il coinvolgimento dei titolari dei diritti e degli altri soggetti interessati.
È la traduzione operativa di un principio che il documento enuncia al § I.4: la FRIA è una valutazione contestuale ed esperta, che non può ridursi a un mero esercizio basato su questionario, e la valutazione dell’impatto sui diritti fondamentali non può essere pienamente automatizzata, perché i parametri rilevanti dipendono dal contesto e si fondano sulla conoscenza esperta dei diritti fondamentali, cioè sugli sviluppi della teoria giuridica e della giurisprudenza. Serve competenza giuridica sui diritti fondamentali, e serve combinata con la comprensione della tecnologia.
I criteri di controllo per chi esamina una FRIA
Vi sono poi le Guidelines for reviewers, cioè la griglia per chi deve valutare la solidità della FRIA altrui. Nel contesto del documento si tratta dei comitati etici che esaminano le proposte di progetto, e il testo lo dice chiaramente già al § I.4, dove rileva che la competenza in materia di diritti fondamentali può risultare determinante nella composizione dei comitati etici, poiché i loro membri non si limitano a rivedere la FRIA prodotta da chi conduce il progetto, ma devono anche individuare e valutare gli impatti eventualmente trascurati.
Le sei domande per i revisori sono costruite come un vero controllo di merito. Se la proposta non include una FRIA, i revisori la chiedono. Se la include, ne verificano la coerenza metodologica, e il documento elenca che cosa si deve controllare: che non vi sia valutazione cumulativa di diritti diversi, che il livello di impatto sia stato valutato in termini di probabilità e gravità, che siano state individuate misure di protezione specifiche per ciascun diritto inciso con l’indicazione dell’esito atteso in termini di prevenzione o mitigazione del rischio, e che siano previsti controlli periodici o follow-up lungo il ciclo di vita del progetto, dove necessario.
In caso di carenze, i revisori possono chiedere informazioni aggiuntive e revisioni. E se i titolari dei diritti non sono stati identificati, o se non sono state previste forme adeguate di valutazione partecipata del rischio, sono i revisori a identificarli.
Questa seconda griglia, a parere di chi scrive, è la parte del documento destinata ad avere la vita più lunga. Perché il problema di chi deve giudicare una valutazione d’impatto – che sia il comitato etico, l’organismo di vigilanza o l’autorità di controllo – non è mai stato la mancanza di un modulo da compilare, ma la mancanza di criteri per distinguere una valutazione fatta bene da una redatta in maniera incompleta e superficiale.
La metodologia FRIA nel caso delle immagini oncologiche
Vi è poi un esempio molto illuminante, basato su una fattispecie reale esaminata dal gruppo di lavoro sulla Human Rights Impact Assessment istituito dall’Autorità catalana per la protezione dei dati nel 2023.
Il caso oncologico e le due fasi del progetto
L’ipotesi trattata è quella dello sviluppo di un sistema di IA basato su immagini mediche per predire la risposta del paziente a uno specifico trattamento chemioterapico, impiegato per uno dei tumori più diffusi al mondo e associato a elevati livelli di sovratrattamento e a effetti collaterali significativi.
Il sistema deve predire tre cose: la risposta del paziente al trattamento, gli effetti collaterali in termini di tossicità e sensibilità, e la prognosi a cinque anni. La tecnologia è il riconoscimento di immagini, e la funzione dichiarata è aiutare i professionisti sanitari a decidere se utilizzare il trattamento e, in caso affermativo, in quale misura.
Il progetto si articola in due fasi: addestramento del sistema su dati di 5.000 pazienti provenienti da dieci Paesi europei (dataset multicentrico), e successiva validazione in otto centri sanitari nel mondo.
La pianificazione del sistema di IA
I dati utilizzati sono immagini mediche personali, informazioni demografiche (età e Paese), stadio e sottotipo molecolare del tumore, informazioni pre-trattamento, regime terapeutico con schema e durata, referto anatomopatologico post-trattamento. La distribuzione prevista del sistema è globale.
Il perimetro dei soggetti cui i dati si riferiscono è precisa: persone tra i 18 e gli 85 anni affette dal tumore considerato; e poiché tutte le persone coinvolte sono malate di cancro, esse devono essere considerate vulnerabili, in ragione delle loro condizioni di salute e del rapporto tra queste condizioni e la finalità del sistema. Nessuna valutazione partecipata del rischio è prevista. I soggetti obbligati sono ospedali e centri di ricerca: questi ultimi coinvolti solo nella progettazione del sistema, i primi anche nel trattamento sanitario correlato.
Alla domanda sulle possibili alternative la risposta è che, dato il contributo dell’IA all’analisi delle immagini e i potenziali benefici per i pazienti, non esistono alternative equivalenti. Quanto ai controlli già in essere, è prevista una valutazione d’impatto sulla protezione dei dati.
I diritti fondamentali individuati
I diritti da analizzare sono tre: diritto all’integrità della persona, protezione dei dati personali, non discriminazione. Gli stessi tre sia per l’uso dell’IA nel progetto, sia per l’implementazione dei risultati.
La misurazione FRIA, diritto per diritto
È qui che il documento mostra concretamente come si fa una FRIA.
- Sul diritto all’integrità della persona l’impatto descritto è che un funzionamento scorretto del sistema può condurre a cure inefficaci e dannose per il paziente. La probabilità è stimata media quando il sistema è usato su pazienti europei, e alta quando è usato su pazienti non europei, per la semplice ragione che i dati di addestramento riguardano pazienti europei. L’esposizione è molto alta, perché l’impatto riguarda potenzialmente tutti gli individui a cui l’algoritmo viene applicato. La gravità è molto alta. Lo sforzo per rimediare è medio se la patologia consente che il monitoraggio successivo corregga l’errore del sistema, alto se non lo consente. L’indice complessivo risulta alto nel primo scenario e molto alto in tutti gli altri.
- Sulla protezione dei dati personali l’impatto è legato all’uso di categorie particolari di dati. La probabilità è stimata bassa, e la motivazione è interessante: trattandosi di un progetto finanziato dall’Unione, esso è soggetto a revisione etica e a valutazione in materia di protezione dei dati. L’esposizione resta molto alta, gravità e sforzo sono medi, e l’indice complessivo si ferma a medio.
- Sulla non discriminazione l’impatto è il più grave di tutti. La descrizione è esplicita: poiché l’algoritmo è stato addestrato su dati di strutture sanitarie europee, può verificarsi discriminazione quando viene usato in strutture non europee. La probabilità è alta, perché l’etnia può determinare differenze nelle immagini mediche capaci di incidere sull’accuratezza diagnostica. L’esposizione è molto alta, riferita a tutte le persone del gruppo etnico a cui l’algoritmo si applica. La gravità è molto alta, con impatto negativo sulla parità di accesso alle cure e sulla qualità del trattamento oncologico ricevuto. Lo sforzo è alto, perché sarebbe necessario adattare o addirittura riaddestrare l’algoritmo con dati che evitino la discriminazione. L’indice complessivo è molto alto.
Il rischio più alto riguarda la non discriminazione
Il diritto più gravemente inciso non è la protezione dei dati, che si ferma a un impatto medio. È invece la possibile discriminazione, che raggiunge il livello massimo.
Una valutazione condotta con le sole categorie della protezione dei dati avrebbe restituito un rischio medio e si sarebbe fermata lì. È esattamente la dimostrazione pratica del perché la regola che ogni diritto va valutato autonomamente e non vi possono essere compensazioni, deve trovare piena applicazione: se si fosse costruito un indice unico aggregato dei tre diritti, il rischio molto alto sulla non discriminazione sarebbe stato diluito dal rischio medio sugli altri due, e il problema sarebbe sparito dal cruscotto.
Le misure di mitigazione indicate dalla FRIA
Quanto alle misure da porre in essere, il documento indica quanto segue.
- sul diritto all’integrità della persona occorre informare i professionisti sanitari dei limiti dello strumento, indicando il tipo di errore possibile; distinguere tra patologie a evoluzione rapida e non, definendo di conseguenza il follow-up; informare i professionisti che occorre tenere conto del tasso di errore dell’apparecchiatura di imaging utilizzata.
- Sulla protezione dei dati: fornire agli interessati informazioni sulle procedure usate per ottenere e trattare i dati di addestramento.
- Sulla non discriminazione: aggiungere dati di addestramento che coprano le tipologie di pazienti sotto-rappresentate, ed escludere o limitare l’uso del sistema nelle aree a bassa rappresentazione nel dataset.
Il rischio residuo dopo le misure
L’Allegato ricalcola poi l’indice di impatto dopo l’adozione delle misure.
L’integrità della persona scende a medio quando il sistema è usato su pazienti europei e la patologia consente il monitoraggio correttivo, e ad alto negli altri scenari; la protezione dei dati resta media; la non discriminazione scende da molto alto a medio, perché la probabilità si riduce a bassa e lo sforzo a basso.
FRIA in sanità: gli adempimenti da avviare subito
Il documento non è vincolante e nessuno può pretenderne l’applicazione. Ma è il primo strumento di provenienza istituzionale europea che arriva fino al livello delle matrici, degli esempi e di un caso svolto per intero. E arriva mentre, in sanità, l’obbligo di verifica esiste già.
Per le strutture sanitarie l’adempimento è attuale, ed occorre già da ora mappare i sistemi di IA in uso, interrogare per ciascuno la griglia dei diritti dell’Allegato I, misurare l’impatto sulla non discriminazione con le quattro variabili, individuare le misure e documentare il rischio residuo. L’art. 7 della legge n. 132/2025 chiede di non discriminare nell’accesso alle prestazioni: e questo è il modo di dimostrare di averlo verificato.
Anche per i comitati etici la griglia del § II.5 è utilizzabile da subito, e non solo sui progetti di ricerca: i criteri per distinguere una FRIA metodologicamente corretta da una apparente valgono per qualunque valutazione d’impatto sui diritti fondamentali si trovino a esaminare.
Per chi svolge funzioni di DPO le quattro variabili sono poi utilizzabili fin da ora dentro la valutazione d’impatto sulla protezione dei dati, perché l’art. 35, par. 7, lett. c), del Regolamento (UE) 2016/679 (GDPR) chiede da sempre la valutazione dei rischi «per i diritti e le libertà degli interessati», non per la sola protezione dei dati. Il caso dell’Allegato II lo dimostra in modo difficilmente contestabile: se la valutazione fosse stata condotta con le sole lenti della protezione dei dati, quella valutazione si sarebbe fermata a un rischio medio e avrebbe mancato il bersaglio.
Una considerazione finale: questo documento sposta la discussione teorica sul terreno tecnico.
Quindi oggi non abbiamo più nessuna scusa per non applicare l’art. 7 della legge 132/2025.
Partecipa alla community