Quando un candidato contesta l’esclusione da una selezione, l’azienda potrebbe scoprire di conoscere assai poco il programma che ha ordinato i curricula. L’ufficio del personale sa che il servizio è stato acquistato per ridurre i tempi; l’IT conosce il collegamento con il gestionale; il fornitore assicura che una persona conserva l’ultima parola.
Per ricostruire la decisione, però, servono altre informazioni: quali caratteristiche hanno pesato sul punteggio, quale versione era in uso, se il selezionatore abbia davvero esaminato i profili scartati. È una situazione ipotetica, ma descrive bene il genere di difficoltà che il nuovo assetto italiano della vigilanza sull’intelligenza artificiale rende necessario affrontare.
Indice degli argomenti
Il decreto 179/2026 e la vigilanza AI nelle imprese
Il decreto legislativo 7 ottobre 2026, n. 179, pubblicato l’8 ottobre, organizza poteri e competenze delle autorità nazionali, disciplina sanzioni e sperimentazione e interviene su formazione e altri ambiti. L’entrata in vigore è prevista per il 23 ottobre. Per chi sviluppa o utilizza sistemi AI, il provvedimento permette soprattutto di cominciare a dare un nome all’interlocutore pubblico che potrà chiedere conto delle scelte compiute.
A quella richiesta sarà difficile rispondere con una dichiarazione generale sull’uso responsabile della tecnologia, se nessuno avrà conservato la storia del sistema impiegato.
La mia impressione è che molte organizzazioni abbiano dedicato alla policy sull’AI più attenzione di quanta ne abbiano riservata ai poteri necessari per applicarla. Si vietano usi, si richiamano valori, si raccomanda la supervisione umana; poi un aggiornamento cambia le funzioni del servizio senza che il responsabile del processo lo sappia. La vigilanza può rendere visibile questa distanza. E proprio perché un controllo riguarda fatti, versioni e condotte, la preparazione dovrebbe cominciare dalle decisioni che l’impresa assume quando acquista e configura un’applicazione.
Decreto italiano e AI Act: le scadenze della vigilanza AI
Prima di attribuire un nuovo adempimento a qualsiasi impresa che usi un chatbot, occorre separare l’entrata in vigore del decreto nazionale dalle date di applicazione delle disposizioni europee. Il testo consolidato dell’AI Act al 27 luglio 2026 contiene un calendario modificato rispetto a quello originario: l’articolo 113 colloca al 2 dicembre 2027 l’applicazione delle sezioni 1, 2 e 3 del capo III, con l’eccezione indicata dalla norma, ai sistemi ad alto rischio dell’articolo 6, paragrafo 2, e dell’allegato III; per quelli dell’articolo 6, paragrafo 1, e dell’allegato I, la data è il 2 agosto 2028.
Restano da esaminare le altre decorrenze e le disposizioni transitorie, comprese quelle relative ai sistemi già immessi sul mercato.
Obblighi applicabili e attività di preparazione
Questa successione di date ha conseguenze concrete sul modo in cui si scrive un piano aziendale. Un’impresa deve distinguere gli obblighi già applicabili dalle attività di preparazione a quelli futuri, specificando a quale sistema e a quale ruolo si riferiscono. Il contratto pluriennale sottoscritto oggi, per esempio, può continuare a produrre effetti quando saranno divenuti applicabili obblighi ulteriori: conviene disciplinare già la disponibilità delle informazioni necessarie, anziché scoprire allora che ogni documento tecnico richiede una nuova negoziazione. Il tempo concesso dal legislatore è utilizzabile anche per questo lavoro poco appariscente.
Sarebbe altrettanto sbagliato interpretare il rinvio di alcune disposizioni sull’alto rischio come una sospensione generale del diritto. Protezione dei dati, disciplina del lavoro, obblighi contrattuali e norme settoriali conservano il proprio ambito. Nel caso della selezione del personale, l’analisi delle decisioni automatizzate e dei trattamenti di dati personali richiede dunque una verifica autonoma. Per l’azienda il calendario è un insieme di scadenze collegate a specifiche attività, non una sola data da riportare in fondo alla presentazione al consiglio di amministrazione.
Vigilanza AI: come individuare l’autorità competente
L’articolo 5 attribuisce all’ACN il ruolo di autorità nazionale di vigilanza del mercato sui sistemi AI, facendo salve le competenze europee e quelle nazionali specificamente individuate. Banca d’Italia, CONSOB e IVASS intervengono sui sistemi ad alto rischio nei rispettivi ambiti finanziari e assicurativi; il Garante per la protezione dei dati personali esercita la competenza indicata attraverso il rinvio all’articolo 74, paragrafo 8, del regolamento. Per determinare l’interlocutore competente bisogna quindi conoscere l’impiego del sistema. Il solo settore in cui opera l’acquirente non risolve tutte le questioni.
Una banca potrebbe impiegare un’applicazione per la valutazione del merito creditizio e, in un altro ufficio, un assistente per preparare presentazioni. Considerare entrambi i sistemi soggetti allo stesso controllo settoriale, soltanto perché la fattura viene pagata dalla banca, salterebbe il passaggio essenziale della qualificazione. Lo stesso vale per i gruppi: una società può sviluppare una soluzione, un’altra distribuirla, una terza utilizzarla. Prima di costruire una procedura unica, bisogna verificare chi svolga ciascuna attività e chi debba rispondere dei relativi obblighi.
Competenze europee e sistemi per finalità generali
Il livello europeo aggiunge un’ulteriore verifica. Le competenze dell’Ufficio europeo per l’IA, richiamate espressamente dal decreto, impongono di leggere il riparto nazionale insieme agli articoli pertinenti del regolamento, anche per i sistemi collegati a modelli per finalità generali. L’articolo 75, nel testo aggiornato, contempla specifiche attribuzioni europee. Nella pratica, la scheda del sistema dovrebbe permettere di capire se il servizio integra un modello altrui o se modello e sistema provengono dal medesimo fornitore o da fornitori della stessa impresa, nei termini della disposizione. Sono informazioni che spesso la denominazione commerciale nasconde.
AgID e la valutazione della conformità
AgID, ai sensi dell’articolo 4 del decreto, è invece l’autorità nazionale di notifica degli organismi di valutazione della conformità. La parola «notifica» riguarda qui la designazione e il sistema di controllo di tali organismi. Trasferirle il significato che assume nelle procedure sugli incidenti produrrebbe un errore di destinatario. Può sembrare una precisazione da giuristi, finché una procedura aziendale non assegna l’invio urgente a un ufficio incompetente.
Dai reclami ai controlli: quando si attiva la vigilanza sull’AI
L’articolo 16 contempla l’avvio del procedimento a seguito di incidenti gravi segnalati, reclami non manifestamente infondati, comunicazioni di altre autorità o iniziativa d’ufficio dell’ACN. Un problema può dunque emergere da un canale che l’impresa considera ordinario: l’assistenza clienti, una contestazione del personale, una richiesta di chiarimenti su un esito. Chi riceve questi messaggi dovrebbe saper riconoscere quando coinvolgere le persone che conoscono il funzionamento dell’applicazione. Archiviare una contestazione come «errore dell’algoritmo» rischia di interrompere proprio la raccolta delle informazioni necessarie per comprenderla.
Supervisione umana nella selezione del personale
Tornando al candidato, l’azienda potrebbe rispondere che ogni decisione è stata assunta da una persona. Se il processo reale prevede che il selezionatore veda soltanto i primi venti nominativi, quella risposta richiede qualche verifica: chi ha esaminato gli altri? Una supervisione formalmente prevista può avere un’efficacia modesta se manca il tempo per esercitarla, se l’interfaccia nasconde gli elementi utili o se discostarsi dalla raccomandazione del sistema richiede un’autorizzazione sproporzionata. Sono circostanze da accertare, evitando di ricavare la conformità dalla presenza di una casella «approvato».
Poteri ispettivi e organizzazione interna
L’articolo 15 richiama i poteri di vigilanza dell’AI Act e del regolamento sulla vigilanza del mercato. Per le prove in condizioni reali prevede anche controlli a distanza o sul posto, senza preavviso. Il decreto rinvia a un successivo regolamento adottato con DPCM la definizione delle modalità di esercizio dei poteri: sarebbe prematuro descrivere come già completa ogni procedura ispettiva. È però già possibile organizzare l’accoglienza di una richiesta, la verifica della sua portata e il reperimento dei documenti, con il supporto legale necessario e una chiara attribuzione dei compiti.
Documentare i sistemi per prepararsi alla vigilanza AI
Un inventario utile dovrebbe descrivere la finalità concreta del sistema e il ruolo dell’organizzazione. La distinzione tra fornitore e deployer, cioè utilizzatore sotto la propria autorità, incide sugli obblighi; inoltre, determinate modifiche o cambiamenti della finalità possono comportare l’assunzione del ruolo di fornitore secondo l’articolo 25. Una clausola con cui l’impresa si definisce semplice cliente non impedisce di esaminare ciò che ha effettivamente fatto. Se il servizio è stato profondamente riconfigurato, occorre sapere da chi, quando e per quale ragione.
Un fascicolo per ogni impiego significativo
Per questo considero utile un fascicolo per ciascun impiego significativo, purché l’espressione non venga scambiata per il nome di un nuovo documento obbligatorio. È una scelta organizzativa: raccogliere le informazioni che permettono di ricostruire classificazione, istruzioni ricevute e autorizzazioni interne, collegandole alle versioni in uso. Il contenuto va proporzionato agli obblighi applicabili. Il fascicolo di un fornitore avrà esigenze diverse da quello di un utilizzatore, che dovrà comunque poter spiegare come ha impiegato il sistema nel proprio processo.
Aggiornamenti, prove e limiti di conservazione
Immaginiamo che il servizio di selezione, dopo un aggiornamento, introduca una funzione che deduce caratteristiche ulteriori dai curricula. L’impresa aveva autorizzato il precedente trattamento e conserva il relativo materiale informativo. Se l’aggiornamento viene accettato automaticamente, la documentazione resta riferita a una realtà ormai superata. Serve un modo per individuare le modifiche rilevanti e decidere chi debba riesaminarle; anche il fornitore deve sapere quali cambiamenti comunicare e con quanto anticipo. Un contratto che consenta variazioni illimitate senza informazione rende questo controllo assai più difficile.
La conservazione delle prove richiede a sua volta una misura. Accumulare ogni prompt e ogni dato personale per anni, invocando un possibile controllo, può produrre rischi e violazioni ulteriori. Occorre individuare ciò che serve a documentare il funzionamento e le decisioni, stabilire accessi e tempi, proteggere le registrazioni da alterazioni. In caso di contestazione si potranno preservare gli elementi pertinenti secondo le regole applicabili. Una buona ricostruzione dipende anche dalla capacità di spiegare la provenienza del dato e i limiti della registrazione, non dal volume dell’archivio.
Fornitori e filiera tecnica nella vigilanza sui sistemi AI
Chi acquista un servizio AI dovrebbe interrogarsi sul comportamento del fornitore durante una contestazione. Le informazioni necessarie saranno comprese nel servizio? Qualcuno sarà in grado di riferirle alla versione usata nel giorno interessato? Quali documenti potranno essere comunicati all’autorità e con quali protezioni? Affrontare questi punti nella trattativa aiuta a evitare che l’organizzazione debba rispondere entro un termine mentre il proprio partner discute il costo di un’attività di assistenza straordinaria.
Collaborazione, segreto commerciale e operatori indiretti
Non sempre il cliente ha titolo o necessità di ottenere l’intero patrimonio tecnico del produttore. Si possono prevedere modalità graduate di collaborazione, accessi riservati e trasmissioni dirette all’interlocutore competente quando consentite. Ciò che conta è che la protezione del segreto commerciale sia coordinata con gli obblighi di informazione, senza lasciare irrisolta la possibilità di adempiervi. Una promessa di conformità inserita nell’offerta, priva di impegni verificabili sulla collaborazione, rischia di esaurire la propria utilità nel momento della firma.
La stessa attenzione serve quando il fornitore utilizza altri operatori per erogare il servizio. Il committente può conoscere l’integratore senza avere alcun rapporto diretto con chi gestisce il modello. Se le risposte devono attraversare più imprese, occorre prevedere quel percorso e i relativi tempi. Le filiere tecniche sono spesso più lunghe di quelle rappresentate nell’organigramma contrattuale; la preparazione alla vigilanza offre un buon motivo per farle finalmente coincidere.
Sanzioni e informazioni inesatte nella vigilanza AI
L’articolo 23 distingue diverse fattispecie. Per le pratiche vietate prevede massimali fino a 35 milioni di euro o al 7 per cento del fatturato mondiale annuo, se superiore; per gli obblighi elencati al comma 2, fino a 15 milioni o al 3 per cento. Le informazioni inesatte, incomplete o fuorvianti fornite in risposta agli organismi notificati o alle autorità competenti possono arrivare a 7,5 milioni o all’1 per cento. Il comma 4 riguarda gli obblighi degli articoli 27 e 86 del regolamento, con un massimo di un milione o dello 0,5 per cento.
Restano i criteri di graduazione, il regime per le imprese minori e la verifica della decorrenza e applicabilità dell’obbligo violato.
Massimali e obblighi applicabili
Quest’ultima precisazione impedisce di trasformare i massimali in un tariffario automatico. Una valutazione d’impatto sui diritti fondamentali, per esempio, non è richiesta indistintamente a ogni utilizzatore di AI. Bisogna leggere destinatari e condizioni dell’articolo 27, oltre alla disciplina temporale. Una consulenza che parta dalla sanzione più alta per raccomandare a chiunque gli stessi documenti finisce per rendere meno visibili le differenze che l’impresa dovrebbe comprendere.
La qualità delle informazioni fornite all’autorità
Merita invece attenzione il rilievo autonomo della qualità delle informazioni fornite. Se un test risale a una versione precedente, va indicato; se una conclusione dipende da un’ipotesi ancora da verificare, occorre esplicitarlo. Una risposta controllata da chi conosce i fatti e da chi ne valuta il significato giuridico riduce il rischio di trasformare una rassicurazione commerciale in un’affermazione inesatta all’autorità. Il coordinamento interno serve anche a evitare che uffici diversi descrivano in modi incompatibili la medesima applicazione.
Formazione e supervisione nei controlli sui sistemi AI
Un altro punto da affrontare riguarda le persone chiamate a supervisionare il sistema. L’esperienza nel processo aziendale è necessaria, ma potrebbe non bastare a riconoscere i limiti dell’applicazione. Il selezionatore conosce il profilo cercato; deve anche comprendere quali informazioni il programma non considera, quali risultati richiedano un approfondimento e come segnalare un comportamento inatteso. Un corso generale sull’intelligenza artificiale può offrire un’introduzione, mentre l’abilitazione a quel compito richiede istruzioni e casi riferiti al servizio effettivamente usato.
Verificare la supervisione con casi concreti
Si potrebbe proporre, durante la formazione, una candidatura con caratteristiche insolite e chiedere di motivare l’eventuale correzione del punteggio. L’esercizio serve a verificare se la persona dispone delle informazioni e dell’autorità necessarie per intervenire. Se il sistema impedisce di vedere il motivo dell’esclusione o se il responsabile scoraggia ogni scostamento per mantenere alta la produttività, il problema non si risolve aggiungendo un attestato al fascicolo. Occorre modificare le condizioni in cui la supervisione viene esercitata e verificare nuovamente il risultato.
La direzione dovrebbe conoscere anche questi vincoli quando approva l’adozione. Il risparmio di tempo promesso dal progetto può dipendere dall’eliminazione di passaggi che, nella descrizione della conformità, continuano a figurare come controlli umani. Far emergere la contraddizione prima dell’acquisto permette di ridisegnare il processo o rivedere la previsione economica. Dopo una contestazione, la stessa contraddizione diventa molto più difficile da spiegare, soprattutto se i documenti interni conservano due versioni incompatibili del lavoro svolto.
Un riesame ragionevole può utilizzare alcuni casi effettivi, opportunamente protetti, per verificare come le istruzioni vengano applicate e quali difficoltà incontrino gli operatori. L’obiettivo è individuare errori ricorrenti e correggere il processo, evitando che la sola presenza di una firma venga considerata prova di un esame consapevole. Chi supervisiona deve avere spazio per segnalare un limite del sistema senza che quella segnalazione sia trattata come un ostacolo al progetto già approvato.
Vigilanza AI in azienda: chi può fermare il sistema
La preparazione resta incompleta finché nessuno sa come reagire a un problema che richieda di sospendere l’utilizzo. Nell’esempio della selezione, fermare il punteggio automatico potrebbe significare riaprire le candidature e organizzare una valutazione diversa. L’azienda dovrebbe conoscere il tempo necessario, le persone disponibili e le conseguenze sui candidati già esaminati. Altrimenti chi deve decidere sarà spinto a proseguire per il semplice fatto che non esiste un’alternativa praticabile.
Conviene provare questo passaggio prima di una contestazione, scegliendo un sistema realmente utilizzato e chiedendo ai responsabili di ricostruire una decisione concreta. L’esercizio può far emergere documenti mancanti, autorizzazioni ambigue o registrazioni insufficienti. Può anche dimostrare che il presidio funziona. In entrambi i casi produce informazioni più utili di una dichiarazione generale secondo cui ogni uso dell’AI è supervisionato. La differenza si vedrà quando qualcuno domanderà chi ha deciso, sulla base di quali elementi e con quale possibilità di intervenire.
Partecipa alla community