guida per le aziende

Sorveglianza umana nei sistemi di AI: gli obblighi da documentare


Indirizzo copiato

Il rinvio degli obblighi europei per i sistemi ad alto rischio non elimina la necessità di predisporre fin d’ora misure e prove sulla sorveglianza umana: i decreti italiani, le responsabilità di fornitori e deployer e la FRIA rendono il controllo documentato un presidio già rilevante

Pubblicato il 20 nov 2026

Giacomo Borgognone

Avvocato Legal Consultant P4I – Partners4Innovation

Anna Cataleta

Senior Partner di P4I e Senior Advisor presso l’Osservatorio Cybersecurity & Data Protection (MIP)



Riassumi questo articolo
Approfondisci con altre fonti
ChatGPT Image 12 nov 2026, 15_27_12




Le organizzazioni che oggi stanno implementando sistemi di intelligenza artificiale e si interrogano su quali obblighi normativi siano applicabili a tali sistemi si trovano di fronte ad una situazione di non semplice lettura. In questo contributo cercheremo di fornire una panoramica limitatamente agli aspetti normativi che riguardano la sorveglianza umana.

In primo luogo, a livello europeo il Regolamento (UE) 2026/1744 (c.d. Digital Omnibus sull’IA), che ha modificato il Regolamento (UE) 2024/1689 (c.d. AI Act), ha differito l’applicazione delle regole dell’AI Act sui sistemi ad alto rischio. Più nello specifico, gli obblighi di fornitori e deployer di sistemi di IA ad alto rischio si applicheranno dal 2 dicembre 2027 per i sistemi dell’Allegato III (ad esempio, i sistemi utilizzati per la valutazione dei rischi e la determinazione dei prezzi in relazione a persone fisiche nel caso di assicurazioni sulla vita e assicurazioni sanitarie e i sistemi utilizzati per valutare l’affidabilità creditizia)
e dal 2 agosto 2028 per quelli dell’Allegato I (ad esempio, i sistemi di IA che costituiscono componenti di sicurezza di prodotti come macchine, giocattoli o dispositivi medici). Per quanto di interesse per l’analisi che segue, tra gli obblighi per i sistemi ad alto rischio che sono stati differiti rientrano anche le disposizioni per fornitori e deployer relative alla sorveglianza umana[1].

Sorveglianza umana nei sistemi di IA tra rinvio europeo e regole italiane

In secondo luogo, a livello nazionale, il Governo ha esercitato la delega contenuta nell’art. 24 della L. 23 settembre 2025, n. 132 (la legge italiana sull’intelligenza artificiale) adottando i primi due decreti legislativi di adeguamento all’AI Act, ossia il D.Lgs. 160/2026, in vigore dal 30 settembre 2026, e il D.Lgs 179/2026, in vigore dal 23 ottobre 2026.

Mentre il primo interviene, tra l’altro, sul piano penale, della responsabilità degli enti e del processo civile, il secondo disciplina principalmente le autorità nazionali competenti e il sistema sanzionatorio, prevedendo, ad esempio, sanzioni per la violazione degli obblighi dei deployer e di quelli relativi alla valutazione d’impatto sui diritti fondamentali.

In estrema sintesi, per quanto rilevante ai fini del presente articolo, si evidenzia che il D.Lgs. 160/2026 può avere un impatto sulle organizzazioni su più fronti.

Innanzitutto, ha introdotto nel codice penale un nuovo reato, l’art. 437-bis c.p. “Omessa adozione di misure di sicurezza nei sistemi di intelligenza artificiale e alterazione illecita dei sistemi”, che punisce chiunque omette di adottare le misure di sicurezza tecniche previste per la progettazione, l’addestramento, la produzione, l’immissione sul mercato di sistemi di intelligenza artificiale ad alto rischio, idonee a prevenire malfunzionamenti o alterazioni del funzionamento dei sistemi o le misure di sorveglianza umana e chi utilizza professionalmente un sistema di questo tipo e omette intenzionalmente di sorvegliarlo. Il reato scatta quando da queste omissioni deriva un pericolo concreto per la vita o l’incolumità delle persone.

Inoltre, lo stesso decreto ha inserito il nuovo reato di cui all’art. 437-bis c.p. nel catalogo dei reati presupposto del D.Lgs. 231/2001 (in particolare, è stato aggiunto l’art. 25-vicies).

Infine, il decreto ha introdotto delle novità per quanto riguarda le azioni di risarcimento del danno, sia contrattuale che extracontrattuale, cagionate dall’utilizzo di un sistema di intelligenza artificiale (anche non ad alto rischio).

Se una persona sostiene di aver subito un danno a causa di un sistema di IA, il giudice può ordinare l’esibizione degli elementi di prova specificamente pertinenti relativi al funzionamento del sistema di intelligenza artificiale.

Tra questi rientrano una serie di documenti che l’AI Act richiede di predisporre per i sistemi di IA ad alto rischio tra cui, ad esempio, i registri di funzionamento del sistema (log), la documentazione sulla gestione dei rischi, le informazioni pertinenti contenute nella documentazione tecnica e le informazioni relative ai parametri e alle modalità di supervisione umana.[2] Inoltre, quando il danno deriva dalla violazione di uno o più obblighi previsti dall’AI Act, il nesso di causalità tra la violazione e il danno è presunto, salvo prova contraria.

Come è stato osservato in dottrina, la lettura congiunta di disciplina nazionale e AI Act consente di individuare l’anticipazione sostanziale dell’adozione di alcuni presidi propri dei sistemi ad alto rischio, nonché un’estensione della loro rilevanza probatoria anche per i sistemi che non sono ad alto rischio[3].

Alla luce delle considerazioni svolte riteniamo che la sorveglianza umana vada progettata, resa effettiva e documentata fin da ora. Nel prosieguo si analizzeranno gli obblighi relativi alla sorveglianza umana previsti dalla normativa e il ruolo della valutazione d’impatto sui diritti fondamentali (FRIA).

Obblighi di sorveglianza umana per i sistemi di IA ad alto rischio

Per individuare i presidi che le organizzazioni devono adottare, il primo passo è qualificare correttamente il proprio ruolo rispetto a ciascun sistema di IA; infatti, l’AI Act individua gli obblighi in materia di sorveglianza specifici per il fornitore, che sviluppa il sistema, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio, e per il deployer, che utilizza il sistema di IA sotto la propria autorità nell’ambito di un’attività professionale. Si evidenzia che l’AI Act individua presidi di sorveglianza umana esclusivamente per i sistemi di IA ad alto rischio.

Il ruolo dei fornitori nella sorveglianza dei sistemi di IA

L’art. 14 dell’AI Act “Sorveglianza umana” richiede che i sistemi ad alto rischio siano progettati e sviluppati, anche con strumenti di interfaccia uomo-macchina adeguati, in modo da poter essere efficacemente supervisionati da persone fisiche durante il periodo in cui sono in uso. Le misure di sorveglianza devono essere commisurate ai rischi, al livello di autonomia e al contesto di utilizzo e possono essere integrate direttamente nel sistema dal fornitore oppure da questi individuate affinché siano attuate dal deployer (art. 14, par. 3, AI Act).

In ogni caso, il sistema deve essere fornito in modo che le persone incaricate della sorveglianza possano, ove opportuno e proporzionato (art. 14, par. 4, AI Act): a) comprendere le capacità e i limiti del sistema e monitorarne il funzionamento, individuando anomalie, disfunzioni e prestazioni inattese;
b) restare consapevoli della possibile tendenza a fare automaticamente affidamento o eccessivo affidamento sull’output (c.d. distorsione dell’automazione o automation bias);
c) interpretare correttamente l’output; d) decidere di non utilizzare il sistema o di ignorare, annullare o ribaltare l’output;
e) intervenire sul funzionamento o interrompere il sistema mediante un pulsante di “arresto” o una procedura analoga che consenta al sistema di arrestarsi in condizioni di sicurezza.

Oltre agli obblighi relativi alla sorveglianza umana, il fornitore ha altri obblighi che prevedono la produzione di evidenze che sono richiamate tra gli elementi di prova dall’art. 17, comma 2 del D.Lgs. 160/2026. Tra questi rientrano i registri (log) di cui all’art. 12 AI Act, la documentazione relativa al sistema di gestione dei rischi di cui all’art. 9 AI Act, le informazioni pertinenti contenute nella documentazione tecnica di cui all’art. 11 dell’AI Act; le informazioni relative ai parametri e alle modalità di supervisione umana di cui all’articolo 14 dell’AI Act.

Quelli elencati, infatti, sono i documenti che il giudice può ordinare di esibire, su istanza della parte che allega di avere subito il danno, all’altra parte o al terzo che ne dispone, ai sensi dell’art. 17 del D.Lgs. 160/2026.

Oltre a quanto sopra, è importante tenere in considerazione che l’art. 25, par. 4, dell’AI Act, come modificato dal Digital Omnibus sull’IA, richiede che il fornitore del sistema ad alto rischio e i terzi che forniscono sistemi di IA, modelli di IA, strumenti o componenti integrati nel sistema di IA ad alto rischio precisino mediante accordo scritto le informazioni, le capacità, l’accesso tecnico e l’assistenza necessari per adempiere agli obblighi dell’AI Act. In questo senso, anche la catena contrattuale diventa parte integrante del presidio di sorveglianza e costituisce un elemento fondamentale per poter presidiare gli adempimenti, anche in ottica di poter provare il rispetto degli obblighi previsti dalla normativa.

I doveri dei deployer nel controllo umano

Per quanto riguarda gli obblighi del deployer, l’art. 26 dell’AI Act richiede di adottare idonee misure tecniche e organizzative per utilizzare il sistema conformemente alle istruzioni per l’uso (art. 26, par. 1, AI Act) e di affidare la sorveglianza umana a persone fisiche che dispongono della competenza, della formazione e dell’autorità necessarie, nonché del sostegno necessario (art. 26, par. 2, AI Act).

Sempre l’art. 26 dell’AI Act richiede di: verificare, nella misura in cui se ne ha il controllo, che i dati di input siano pertinenti e sufficientemente rappresentativi (art. 26, par. 4);
monitorare il funzionamento del sistema, sospenderne l’uso e informare il fornitore e l’autorità di vigilanza quando presenti un rischio, nonché segnalare gli incidenti gravi (art. 26, par. 5);
conservare i log generati automaticamente, per quanto sotto il proprio controllo (art. 26, par. 6);
informare i rappresentanti dei lavoratori e i lavoratori interessati prima di mettere in servizio un sistema ad alto rischio sul luogo di lavoro (art. 26, par. 7) e le persone fisiche soggette a decisioni adottate o assistite da sistemi dell’Allegato III (art. 26, par. 11).

Oltre a ciò, potrebbe essere utile anche nominare formalmente le persone incaricate, descrivendone compiti e poteri (in particolare quello di non utilizzare o arrestare il sistema di IA nei casi in cui si riveli necessario) e formarle in modo mirato, anche nell’ambito delle misure di alfabetizzazione richieste dall’art. 4 dell’AI Act.

Inoltre, tra gli obblighi previsti per alcuni deployer di sistemi di IA ad alto rischio vi è lo svolgimento della FRIA.

FRIA e sorveglianza umana nei sistemi di IA

Dall’analisi svolta emerge che il controllo umano si regge su due elementi principali, ossia le misure che il fornitore deve adottare e quelle che il deployer deve predisporre per renderle effettive durante l’uso del sistema di IA.

In questo contesto, si evidenzia che, per i deployer (di sistemi di IA ad alto rischio di cui all’l’allegato III) che sono organismi di diritto pubblico o enti privati che forniscono servizi pubblici
e per i deployer dei sistemi di IA ad alto rischio utilizzati per valutare l’affidabilità creditizia e per la valutazione del rischio e la determinazione dei prezzi nelle assicurazioni sulla vita e sanitarie, è richiesto un ulteriore adempimento che riguarda le misure di sorveglianza umana, ossia la FRIA prevista dall’art. 27 dell’AI Act.

Come documentare il controllo umano nella FRIA

Quest’ultima, infatti, deve contenere, tra l’altro, “una descrizione dell’attuazione delle misure di sorveglianza umana, secondo le istruzioni per l’uso” (art. 27, par. 1, lett. e, AI Act). In altri termini, la FRIA è il punto in cui le misure indicate dal fornitore incontrano l’organizzazione concreta del deployer e in cui gli elementi indicati nei paragrafi precedenti (persone incaricate, poteri di intervento e di arresto, modalità di monitoraggio) vengono messi per iscritto in una valutazione che deve essere svolta prima di utilizzare il sistema di IA.

Anche dove non è obbligatoria la FRIA può essere uno strumento utile per documentare la sorveglianza umana e gli altri elementi presi in considerazione nell’ambito della valutazione di un sistema di IA ad alto rischio. In particolare, la FRIA descrive i processi in cui il sistema è utilizzato, la durata e la frequenza d’uso, le categorie di persone interessate, i rischi specifici di danno (tenendo conto delle informazioni fornite dal fornitore ai sensi dell’art. 13 dell’AI Act), l’attuazione delle misure di sorveglianza umana e le misure da adottare se i rischi si concretizzano, comprese la governance interna e i meccanismi di reclamo.

Strumenti operativi per la valutazione d’impatto

Per quanto riguarda lo svolgimento della valutazione, tra gli strumenti operativi oggi disponibili è utile menzionare il modello FRIA presentato nel gennaio 2025 dall’Autorità catalana per la protezione dei dati[4]. Per ciascun diritto potenzialmente inciso si stimano probabilità e gravità del pregiudizio e si individuano le misure di mitigazione. In una prospettiva analoga, seppur contestualizzata in un ambito specifico dei progetti di ricerca, si può considerare anche il documento pubblicato dalla Commissione europea “Fundamental Rights Impact Assessment (FRIA) and AI”[5].

Questi strumenti operativi sono tra i primi riferimenti metodologici disponibili e possono essere un utile riferimento per le organizzazioni che si preparano ad affrontare questo tipo di valutazione.

Sorveglianza umana già oggi: come dimostrare un controllo reale

Alla luce di quanto visto sopra, seppur vi sia stato il rinvio delle regole europee sui sistemi di IA ad alto rischio, è evidente che la normativa nazionale impone di porsi già delle domande sull’opportunità di iniziare a considerare gli adempimenti e la documentazione per garantire un corretto governo dei sistemi di IA ad alto rischio.

Come si è detto sopra, la sorveglianza umana è uno di quegli elementi che possono avere un impatto trasversale in relazione a diversi ambiti del diritto. Per quanto riguarda la sorveglianza umana, la domanda che dovrebbero porsi le organizzazioni è se le stesse siano in grado, oggi, di dimostrare che il controllo umano sui sistemi sia reale.

Rispondere affermativamente richiede di costruire un controllo progettato, effettivo e documentato e strumenti come la FRIA e le metodologie già disponibili possono aiutare in questo percorso.

Fonti su AI Act e sorveglianza umana

Normativa

  • Regolamento (UE) 2024/1689 (AI Act)
  • Regolamento (UE) 2026/1744 dell’8 luglio 2026 (Digital Omnibus sull’IA)
  • Legge 23 settembre 2025, n. 132
  • D.Lgs. 9 settembre 2026, n. 160, GU n. 214 del 15 settembre 2026
  • D.Lgs. 7 ottobre 2026, n. 179, GU n. 234 dell’8 ottobre 2026
  • D.Lgs. 8 giugno 2001, n. 231, art. 25-vicies

Dottrina e documenti

  • Autoritat Catalana de Protecció de Dades (APDCAT), modello FRIA per i sistemi di IA, gennaio 2025
  • Commissione europea, Fundamental Rights Impact Assessment (FRIA) and AI – Ethics advice for researchers and ethics experts, maggio 2026.
  • Pollicino O., Pupella R., D.Lgs. 160/2026: anticipazione dell’alto rischio?, Policy brief, Pollicino AIdvisory, 2026.

Note

[1] Cfr. artt. 14 e 26 AI Act. ↩

[2] Art. 17, comma 2, D.Lgs. 160/2026 ↩

[3] O. Pollicino, R. Pupella, D.Lgs. 160/2026: anticipazione dell’alto rischio?, Policy brief, Pollicino AIdvisory, 2026, ↩

[4] Autoritat Catalana de Protecció de Dades (APDCAT), modello FRIA per i sistemi di IA, gennaio 2025, e relativo strumento automatizzato, presentato il 7 ottobre 2026 https://www.apdcat.cat/en/recursos/aplicacions-apdcat/aplicacio-fria ↩

[5] Commissione europea, Fundamental Rights Impact Assessment (FRIA) and AI – Ethics advice for researchers and ethics experts, maggio 2026 ↩

Partecipa alla community

guest

0 Commenti
Più recenti
Più votati
Inline Feedback
Vedi tutti i commenti

People&Change

Tutti
CARRIERE
AI E LAVORO
COMPETENZE
Produttività e AI
AI IN AZIENDA
SCENARI
FORMAZIONE
CULTURA AZIENDALE
AI in azienda
Carriera
AI leadership
Leggi l'articolo Primo lavoro e carriera: le dinamiche invisibili che guidano il successo
competenze
Primo lavoro e carriera: le dinamiche invisibili che guidano il successo
Leggi l'articolo AI e lavoro, chi beneficerà davvero del tempo risparmiato?
scenari
AI e lavoro, chi beneficerà davvero del tempo risparmiato?
Leggi l'articolo Industria 5.0, chi difende le competenze quando decide l’AI
scenario
Industria 5.0, chi difende le competenze quando decide l’AI
Leggi l'articolo AI e lavoro in Italia: perché la formazione non può aspettare
l'analisi
AI e lavoro in Italia: perché la formazione non può aspettare
Leggi l'articolo Produttività e AI: il vantaggio cresce ai vertici, meno tra i dipendenti
lo studio
Produttività e AI: il vantaggio cresce ai vertici, meno tra i dipendenti
Leggi l'articolo Shadow AI in azienda: come governare rischi, dati e sicurezza
policy
Shadow AI in azienda: come governare rischi, dati e sicurezza
Leggi l'articolo AI e lavoro: i rischi di adottarla senza riprogettare i processi
collaborazione uomo-ai
AI e lavoro: i rischi di adottarla senza riprogettare i processi
Leggi l'articolo Diritto a un call center umano: banco di prova per il futuro con l’AI
la sentenza
Diritto a un call center umano: banco di prova per il futuro con l’AI
Leggi l'articolo Shadow AI, vietarla non basta: il problema sono i processi aziendali
scenari
Shadow AI, vietarla non basta: il problema sono i processi aziendali
Leggi l'articolo Longevità e lavoro: come riprogettare la propria carriera
scenari
Longevità e lavoro: come riprogettare la propria carriera
Leggi l'articolo People Pleaser sul lavoro: perché è difficile dire di no
lavoro e SOCIETÀ
People Pleaser sul lavoro: perché è difficile dire di no
Leggi l'articolo Master MIA a Cremona, il modello ibrido per portare l’AI in azienda
imprese e formazione
Master MIA a Cremona, il modello ibrido per portare l’AI in azienda
Leggi l'articolo Skills contro job title: le competenze trasformano i team nell’era dell’AI
competenze e lavoro
Skills contro job title: le competenze trasformano i team nell’era dell’AI
Leggi l'articolo Shadow AI in azienda: rischi, controlli e strumenti di governance
uso non approvato dell’AI
Shadow AI in azienda: rischi, controlli e strumenti di governance
Leggi l'articolo L’AI accelera la conoscenza, non l’esperienza: il nuovo compito delle HR
risorse umane
L’AI accelera la conoscenza, non l’esperienza: il nuovo compito delle HR
Leggi l'articolo Gestione del cambiamento nell’AI: strategie per un’adozione efficace
la guida
Gestione del cambiamento nell’AI: strategie per un’adozione efficace
Leggi l'articolo Team ibridi, le regole per coordinare persone e agenti IA
leader aumentato
Team ibridi, le regole per coordinare persone e agenti IA
Leggi l'articolo Dimissioni e carriera: quando e come decidere di lasciare un lavoro
scenari
Dimissioni e carriera: quando e come decidere di lasciare un lavoro
Leggi l'articolo AI leadership, come cambiare la governance delle organizzazioni
AI e organizzazioni
AI leadership, come cambiare la governance delle organizzazioni
Leggi l'articolo AI in azienda, l’adozione si blocca senza una nuova leadership
Oltre l'AI Fatigue
AI in azienda, l’adozione si blocca senza una nuova leadership
Leggi l'articolo Primo lavoro e carriera: le dinamiche invisibili che guidano il successo
competenze
Primo lavoro e carriera: le dinamiche invisibili che guidano il successo
Leggi l'articolo AI e lavoro, chi beneficerà davvero del tempo risparmiato?
scenari
AI e lavoro, chi beneficerà davvero del tempo risparmiato?
Leggi l'articolo Industria 5.0, chi difende le competenze quando decide l’AI
scenario
Industria 5.0, chi difende le competenze quando decide l’AI
Leggi l'articolo AI e lavoro in Italia: perché la formazione non può aspettare
l'analisi
AI e lavoro in Italia: perché la formazione non può aspettare
Leggi l'articolo Produttività e AI: il vantaggio cresce ai vertici, meno tra i dipendenti
lo studio
Produttività e AI: il vantaggio cresce ai vertici, meno tra i dipendenti
Leggi l'articolo Shadow AI in azienda: come governare rischi, dati e sicurezza
policy
Shadow AI in azienda: come governare rischi, dati e sicurezza
Leggi l'articolo AI e lavoro: i rischi di adottarla senza riprogettare i processi
collaborazione uomo-ai
AI e lavoro: i rischi di adottarla senza riprogettare i processi
Leggi l'articolo Diritto a un call center umano: banco di prova per il futuro con l’AI
la sentenza
Diritto a un call center umano: banco di prova per il futuro con l’AI
Leggi l'articolo Shadow AI, vietarla non basta: il problema sono i processi aziendali
scenari
Shadow AI, vietarla non basta: il problema sono i processi aziendali
Leggi l'articolo Longevità e lavoro: come riprogettare la propria carriera
scenari
Longevità e lavoro: come riprogettare la propria carriera
Leggi l'articolo People Pleaser sul lavoro: perché è difficile dire di no
lavoro e SOCIETÀ
People Pleaser sul lavoro: perché è difficile dire di no
Leggi l'articolo Master MIA a Cremona, il modello ibrido per portare l’AI in azienda
imprese e formazione
Master MIA a Cremona, il modello ibrido per portare l’AI in azienda
Leggi l'articolo Skills contro job title: le competenze trasformano i team nell’era dell’AI
competenze e lavoro
Skills contro job title: le competenze trasformano i team nell’era dell’AI
Leggi l'articolo Shadow AI in azienda: rischi, controlli e strumenti di governance
uso non approvato dell’AI
Shadow AI in azienda: rischi, controlli e strumenti di governance
Leggi l'articolo L’AI accelera la conoscenza, non l’esperienza: il nuovo compito delle HR
risorse umane
L’AI accelera la conoscenza, non l’esperienza: il nuovo compito delle HR
Leggi l'articolo Gestione del cambiamento nell’AI: strategie per un’adozione efficace
la guida
Gestione del cambiamento nell’AI: strategie per un’adozione efficace
Leggi l'articolo Team ibridi, le regole per coordinare persone e agenti IA
leader aumentato
Team ibridi, le regole per coordinare persone e agenti IA
Leggi l'articolo Dimissioni e carriera: quando e come decidere di lasciare un lavoro
scenari
Dimissioni e carriera: quando e come decidere di lasciare un lavoro
Leggi l'articolo AI leadership, come cambiare la governance delle organizzazioni
AI e organizzazioni
AI leadership, come cambiare la governance delle organizzazioni
Leggi l'articolo AI in azienda, l’adozione si blocca senza una nuova leadership
Oltre l'AI Fatigue
AI in azienda, l’adozione si blocca senza una nuova leadership

Articoli correlati

0
Lascia un commento, la tua opinione conta.x