Le organizzazioni che oggi stanno implementando sistemi di intelligenza artificiale e si interrogano su quali obblighi normativi siano applicabili a tali sistemi si trovano di fronte ad una situazione di non semplice lettura. In questo contributo cercheremo di fornire una panoramica limitatamente agli aspetti normativi che riguardano la sorveglianza umana.
In primo luogo, a livello europeo il Regolamento (UE) 2026/1744 (c.d. Digital Omnibus sull’IA), che ha modificato il Regolamento (UE) 2024/1689 (c.d. AI Act), ha differito l’applicazione delle regole dell’AI Act sui sistemi ad alto rischio. Più nello specifico, gli obblighi di fornitori e deployer di sistemi di IA ad alto rischio si applicheranno dal 2 dicembre 2027 per i sistemi dell’Allegato III (ad esempio, i sistemi utilizzati per la valutazione dei rischi e la determinazione dei prezzi in relazione a persone fisiche nel caso di assicurazioni sulla vita e assicurazioni sanitarie e i sistemi utilizzati per valutare l’affidabilità creditizia)
e dal 2 agosto 2028 per quelli dell’Allegato I (ad esempio, i sistemi di IA che costituiscono componenti di sicurezza di prodotti come macchine, giocattoli o dispositivi medici). Per quanto di interesse per l’analisi che segue, tra gli obblighi per i sistemi ad alto rischio che sono stati differiti rientrano anche le disposizioni per fornitori e deployer relative alla sorveglianza umana[1].
Indice degli argomenti
Sorveglianza umana nei sistemi di IA tra rinvio europeo e regole italiane
In secondo luogo, a livello nazionale, il Governo ha esercitato la delega contenuta nell’art. 24 della L. 23 settembre 2025, n. 132 (la legge italiana sull’intelligenza artificiale) adottando i primi due decreti legislativi di adeguamento all’AI Act, ossia il D.Lgs. 160/2026, in vigore dal 30 settembre 2026, e il D.Lgs 179/2026, in vigore dal 23 ottobre 2026.
Mentre il primo interviene, tra l’altro, sul piano penale, della responsabilità degli enti e del processo civile, il secondo disciplina principalmente le autorità nazionali competenti e il sistema sanzionatorio, prevedendo, ad esempio, sanzioni per la violazione degli obblighi dei deployer e di quelli relativi alla valutazione d’impatto sui diritti fondamentali.
In estrema sintesi, per quanto rilevante ai fini del presente articolo, si evidenzia che il D.Lgs. 160/2026 può avere un impatto sulle organizzazioni su più fronti.
Innanzitutto, ha introdotto nel codice penale un nuovo reato, l’art. 437-bis c.p. “Omessa adozione di misure di sicurezza nei sistemi di intelligenza artificiale e alterazione illecita dei sistemi”, che punisce chiunque omette di adottare le misure di sicurezza tecniche previste per la progettazione, l’addestramento, la produzione, l’immissione sul mercato di sistemi di intelligenza artificiale ad alto rischio, idonee a prevenire malfunzionamenti o alterazioni del funzionamento dei sistemi o le misure di sorveglianza umana e chi utilizza professionalmente un sistema di questo tipo e omette intenzionalmente di sorvegliarlo. Il reato scatta quando da queste omissioni deriva un pericolo concreto per la vita o l’incolumità delle persone.
Inoltre, lo stesso decreto ha inserito il nuovo reato di cui all’art. 437-bis c.p. nel catalogo dei reati presupposto del D.Lgs. 231/2001 (in particolare, è stato aggiunto l’art. 25-vicies).
Infine, il decreto ha introdotto delle novità per quanto riguarda le azioni di risarcimento del danno, sia contrattuale che extracontrattuale, cagionate dall’utilizzo di un sistema di intelligenza artificiale (anche non ad alto rischio).
Se una persona sostiene di aver subito un danno a causa di un sistema di IA, il giudice può ordinare l’esibizione degli elementi di prova specificamente pertinenti relativi al funzionamento del sistema di intelligenza artificiale.
Tra questi rientrano una serie di documenti che l’AI Act richiede di predisporre per i sistemi di IA ad alto rischio tra cui, ad esempio, i registri di funzionamento del sistema (log), la documentazione sulla gestione dei rischi, le informazioni pertinenti contenute nella documentazione tecnica e le informazioni relative ai parametri e alle modalità di supervisione umana.[2] Inoltre, quando il danno deriva dalla violazione di uno o più obblighi previsti dall’AI Act, il nesso di causalità tra la violazione e il danno è presunto, salvo prova contraria.
Come è stato osservato in dottrina, la lettura congiunta di disciplina nazionale e AI Act consente di individuare l’anticipazione sostanziale dell’adozione di alcuni presidi propri dei sistemi ad alto rischio, nonché un’estensione della loro rilevanza probatoria anche per i sistemi che non sono ad alto rischio[3].
Alla luce delle considerazioni svolte riteniamo che la sorveglianza umana vada progettata, resa effettiva e documentata fin da ora. Nel prosieguo si analizzeranno gli obblighi relativi alla sorveglianza umana previsti dalla normativa e il ruolo della valutazione d’impatto sui diritti fondamentali (FRIA).
Obblighi di sorveglianza umana per i sistemi di IA ad alto rischio
Per individuare i presidi che le organizzazioni devono adottare, il primo passo è qualificare correttamente il proprio ruolo rispetto a ciascun sistema di IA; infatti, l’AI Act individua gli obblighi in materia di sorveglianza specifici per il fornitore, che sviluppa il sistema, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio, e per il deployer, che utilizza il sistema di IA sotto la propria autorità nell’ambito di un’attività professionale. Si evidenzia che l’AI Act individua presidi di sorveglianza umana esclusivamente per i sistemi di IA ad alto rischio.
Il ruolo dei fornitori nella sorveglianza dei sistemi di IA
L’art. 14 dell’AI Act “Sorveglianza umana” richiede che i sistemi ad alto rischio siano progettati e sviluppati, anche con strumenti di interfaccia uomo-macchina adeguati, in modo da poter essere efficacemente supervisionati da persone fisiche durante il periodo in cui sono in uso. Le misure di sorveglianza devono essere commisurate ai rischi, al livello di autonomia e al contesto di utilizzo e possono essere integrate direttamente nel sistema dal fornitore oppure da questi individuate affinché siano attuate dal deployer (art. 14, par. 3, AI Act).
In ogni caso, il sistema deve essere fornito in modo che le persone incaricate della sorveglianza possano, ove opportuno e proporzionato (art. 14, par. 4, AI Act): a) comprendere le capacità e i limiti del sistema e monitorarne il funzionamento, individuando anomalie, disfunzioni e prestazioni inattese;
b) restare consapevoli della possibile tendenza a fare automaticamente affidamento o eccessivo affidamento sull’output (c.d. distorsione dell’automazione o automation bias);
c) interpretare correttamente l’output; d) decidere di non utilizzare il sistema o di ignorare, annullare o ribaltare l’output;
e) intervenire sul funzionamento o interrompere il sistema mediante un pulsante di “arresto” o una procedura analoga che consenta al sistema di arrestarsi in condizioni di sicurezza.
Oltre agli obblighi relativi alla sorveglianza umana, il fornitore ha altri obblighi che prevedono la produzione di evidenze che sono richiamate tra gli elementi di prova dall’art. 17, comma 2 del D.Lgs. 160/2026. Tra questi rientrano i registri (log) di cui all’art. 12 AI Act, la documentazione relativa al sistema di gestione dei rischi di cui all’art. 9 AI Act, le informazioni pertinenti contenute nella documentazione tecnica di cui all’art. 11 dell’AI Act; le informazioni relative ai parametri e alle modalità di supervisione umana di cui all’articolo 14 dell’AI Act.
Quelli elencati, infatti, sono i documenti che il giudice può ordinare di esibire, su istanza della parte che allega di avere subito il danno, all’altra parte o al terzo che ne dispone, ai sensi dell’art. 17 del D.Lgs. 160/2026.
Oltre a quanto sopra, è importante tenere in considerazione che l’art. 25, par. 4, dell’AI Act, come modificato dal Digital Omnibus sull’IA, richiede che il fornitore del sistema ad alto rischio e i terzi che forniscono sistemi di IA, modelli di IA, strumenti o componenti integrati nel sistema di IA ad alto rischio precisino mediante accordo scritto le informazioni, le capacità, l’accesso tecnico e l’assistenza necessari per adempiere agli obblighi dell’AI Act. In questo senso, anche la catena contrattuale diventa parte integrante del presidio di sorveglianza e costituisce un elemento fondamentale per poter presidiare gli adempimenti, anche in ottica di poter provare il rispetto degli obblighi previsti dalla normativa.
I doveri dei deployer nel controllo umano
Per quanto riguarda gli obblighi del deployer, l’art. 26 dell’AI Act richiede di adottare idonee misure tecniche e organizzative per utilizzare il sistema conformemente alle istruzioni per l’uso (art. 26, par. 1, AI Act) e di affidare la sorveglianza umana a persone fisiche che dispongono della competenza, della formazione e dell’autorità necessarie, nonché del sostegno necessario (art. 26, par. 2, AI Act).
Sempre l’art. 26 dell’AI Act richiede di: verificare, nella misura in cui se ne ha il controllo, che i dati di input siano pertinenti e sufficientemente rappresentativi (art. 26, par. 4);
monitorare il funzionamento del sistema, sospenderne l’uso e informare il fornitore e l’autorità di vigilanza quando presenti un rischio, nonché segnalare gli incidenti gravi (art. 26, par. 5);
conservare i log generati automaticamente, per quanto sotto il proprio controllo (art. 26, par. 6);
informare i rappresentanti dei lavoratori e i lavoratori interessati prima di mettere in servizio un sistema ad alto rischio sul luogo di lavoro (art. 26, par. 7) e le persone fisiche soggette a decisioni adottate o assistite da sistemi dell’Allegato III (art. 26, par. 11).
Oltre a ciò, potrebbe essere utile anche nominare formalmente le persone incaricate, descrivendone compiti e poteri (in particolare quello di non utilizzare o arrestare il sistema di IA nei casi in cui si riveli necessario) e formarle in modo mirato, anche nell’ambito delle misure di alfabetizzazione richieste dall’art. 4 dell’AI Act.
Inoltre, tra gli obblighi previsti per alcuni deployer di sistemi di IA ad alto rischio vi è lo svolgimento della FRIA.
FRIA e sorveglianza umana nei sistemi di IA
Dall’analisi svolta emerge che il controllo umano si regge su due elementi principali, ossia le misure che il fornitore deve adottare e quelle che il deployer deve predisporre per renderle effettive durante l’uso del sistema di IA.
In questo contesto, si evidenzia che, per i deployer (di sistemi di IA ad alto rischio di cui all’l’allegato III) che sono organismi di diritto pubblico o enti privati che forniscono servizi pubblici
e per i deployer dei sistemi di IA ad alto rischio utilizzati per valutare l’affidabilità creditizia e per la valutazione del rischio e la determinazione dei prezzi nelle assicurazioni sulla vita e sanitarie, è richiesto un ulteriore adempimento che riguarda le misure di sorveglianza umana, ossia la FRIA prevista dall’art. 27 dell’AI Act.
Come documentare il controllo umano nella FRIA
Quest’ultima, infatti, deve contenere, tra l’altro, “una descrizione dell’attuazione delle misure di sorveglianza umana, secondo le istruzioni per l’uso” (art. 27, par. 1, lett. e, AI Act). In altri termini, la FRIA è il punto in cui le misure indicate dal fornitore incontrano l’organizzazione concreta del deployer e in cui gli elementi indicati nei paragrafi precedenti (persone incaricate, poteri di intervento e di arresto, modalità di monitoraggio) vengono messi per iscritto in una valutazione che deve essere svolta prima di utilizzare il sistema di IA.
Anche dove non è obbligatoria la FRIA può essere uno strumento utile per documentare la sorveglianza umana e gli altri elementi presi in considerazione nell’ambito della valutazione di un sistema di IA ad alto rischio. In particolare, la FRIA descrive i processi in cui il sistema è utilizzato, la durata e la frequenza d’uso, le categorie di persone interessate, i rischi specifici di danno (tenendo conto delle informazioni fornite dal fornitore ai sensi dell’art. 13 dell’AI Act), l’attuazione delle misure di sorveglianza umana e le misure da adottare se i rischi si concretizzano, comprese la governance interna e i meccanismi di reclamo.
Strumenti operativi per la valutazione d’impatto
Per quanto riguarda lo svolgimento della valutazione, tra gli strumenti operativi oggi disponibili è utile menzionare il modello FRIA presentato nel gennaio 2025 dall’Autorità catalana per la protezione dei dati[4]. Per ciascun diritto potenzialmente inciso si stimano probabilità e gravità del pregiudizio e si individuano le misure di mitigazione. In una prospettiva analoga, seppur contestualizzata in un ambito specifico dei progetti di ricerca, si può considerare anche il documento pubblicato dalla Commissione europea “Fundamental Rights Impact Assessment (FRIA) and AI”[5].
Questi strumenti operativi sono tra i primi riferimenti metodologici disponibili e possono essere un utile riferimento per le organizzazioni che si preparano ad affrontare questo tipo di valutazione.
Sorveglianza umana già oggi: come dimostrare un controllo reale
Alla luce di quanto visto sopra, seppur vi sia stato il rinvio delle regole europee sui sistemi di IA ad alto rischio, è evidente che la normativa nazionale impone di porsi già delle domande sull’opportunità di iniziare a considerare gli adempimenti e la documentazione per garantire un corretto governo dei sistemi di IA ad alto rischio.
Come si è detto sopra, la sorveglianza umana è uno di quegli elementi che possono avere un impatto trasversale in relazione a diversi ambiti del diritto. Per quanto riguarda la sorveglianza umana, la domanda che dovrebbero porsi le organizzazioni è se le stesse siano in grado, oggi, di dimostrare che il controllo umano sui sistemi sia reale.
Rispondere affermativamente richiede di costruire un controllo progettato, effettivo e documentato e strumenti come la FRIA e le metodologie già disponibili possono aiutare in questo percorso.
Fonti su AI Act e sorveglianza umana
Normativa
- Regolamento (UE) 2024/1689 (AI Act)
- Regolamento (UE) 2026/1744 dell’8 luglio 2026 (Digital Omnibus sull’IA)
- Legge 23 settembre 2025, n. 132
- D.Lgs. 9 settembre 2026, n. 160, GU n. 214 del 15 settembre 2026
- D.Lgs. 7 ottobre 2026, n. 179, GU n. 234 dell’8 ottobre 2026
- D.Lgs. 8 giugno 2001, n. 231, art. 25-vicies
Dottrina e documenti
- Autoritat Catalana de Protecció de Dades (APDCAT), modello FRIA per i sistemi di IA, gennaio 2025
- Commissione europea, Fundamental Rights Impact Assessment (FRIA) and AI – Ethics advice for researchers and ethics experts, maggio 2026.
- Pollicino O., Pupella R., D.Lgs. 160/2026: anticipazione dell’alto rischio?, Policy brief, Pollicino AIdvisory, 2026.
Note
[1] Cfr. artt. 14 e 26 AI Act. ↩
[2] Art. 17, comma 2, D.Lgs. 160/2026 ↩
[3] O. Pollicino, R. Pupella, D.Lgs. 160/2026: anticipazione dell’alto rischio?, Policy brief, Pollicino AIdvisory, 2026, ↩
[4] Autoritat Catalana de Protecció de Dades (APDCAT), modello FRIA per i sistemi di IA, gennaio 2025, e relativo strumento automatizzato, presentato il 7 ottobre 2026 https://www.apdcat.cat/en/recursos/aplicacions-apdcat/aplicacio-fria ↩
[5] Commissione europea, Fundamental Rights Impact Assessment (FRIA) and AI – Ethics advice for researchers and ethics experts, maggio 2026 ↩






























Partecipa alla community