Uno dei possibili usi dell’intelligenza artificiale nella gestione delle risorse umane è quello di soluzioni di AI che permettono un’assegnazione automatizzata dei singoli task alla luce delle capacità e dei carichi dei singoli. Non è detto che soluzioni di questo tipo siano ambite esclusivamente dall’industria o da contesti come i call center, nei quali la gestione delle operazioni richiede un continuo monitoraggio della barra telefonica e della produttività individuale.
Pensiamo, ad esempio, a un sistema di gestione dei carichi di lavoro progettato per trasformare automaticamente in un flusso strutturato le attività di un gruppo di collaboratori che fanno un lavoro di concetto. Immaginiamo che questo sistema osservi ciò che accade (scambi di messaggi, produzione di documenti e attività) traendone dei profili operativi dei collaboratori basati su elementi reali (velocità, carico di lavoro, dinamiche) e traducendolo in tempistiche, priorità e assegnazioni. Un sistema simile, osservando i comportamenti reali delle persone appartenenti al gruppo, riesce ad adattarsi continuamente all’effettivo modo di lavorare di quelle persone, apprendendo modelli, capacità e dinamiche di collaborazione.
Indice degli argomenti
AI Act e sistemi AI ad alto rischio nelle risorse umane
Un’impresa che sviluppa un sistema di AI come questo e lo immette sul mercato oppure lo mette in servizio con il proprio nome o marchio (a titolo oneroso o gratuito) deve essere considerata, ai sensi dell’AI Act, “fornitore” del sistema. Se un simile sistema di AI è destinato al mercato europeo, il fornitore deve chiedersi se esso sia soggetto o meno alle norme dell’AI Act sui sistemi di AI ad alto rischio. Infatti, anche se, in base al Digital Omnibus, l’esecutività di queste norme slitterà al 2 dicembre 2027, l’impianto normativo messo a punto nell’AI Act è confermato; quindi, meglio adeguarvisi da subito.
Da un lato, l’Allegato III include fra i sistemi di AI ad alto rischio i sistemi di AI destinati a essere utilizzati per assegnare compiti sulla base del comportamento individuale o dei tratti e delle caratteristiche personali. Dall’altro, l’art. 6.3 dell’AI Act chiarisce che «un sistema di AI di cui all’Allegato III non è considerato ad alto rischio se non presenta un rischio significativo di danno per la salute, la sicurezza o i diritti fondamentali delle persone fisiche, anche nel senso di non influenzare materialmente il risultato del processo decisionale». Ai sensi della stessa norma, l’alto rischio può essere escluso se ricorre una fra le seguenti quattro circostanze: a) il sistema di AI è destinato a eseguire un compito procedurale limitato; b) il sistema di AI è destinato a migliorare il risultato di un’attività umana precedentemente completata; c) il sistema di AI è destinato a rilevare schemi decisionali o deviazioni da schemi decisionali precedenti e non è finalizzato a sostituire o influenzare la valutazione umana precedentemente completata senza un’adeguata revisione umana; d) il sistema di AI è destinato a eseguire un compito preparatorio per una valutazione pertinente ai fini dei casi d’uso elencati nell’Allegato III.
Nel maggio 2026, la Commissione UE ha presentato una bozza di linee guida sulla classificazione dei sistemi di AI ad alto rischio che rimane in consultazione fino al 23 luglio 2026 e che contiene – anche per sistemi per la gestione delle risorse umane – una serie di considerazioni legali e di esempi su quando l’alto rischio potrebbe essere escluso e su quando, al contrario, esso dovrebbe essere considerato sussistente.
Assegnazione dei compiti e impatto sui lavoratori
Nella bozza, si legge che i sistemi di AI utilizzati nel settore dell’occupazione per l’assegnazione dei compiti sulla base dei comportamenti individuali sono ad alto rischio in quanto possono avere un impatto significativo sul futuro di tali persone in termini di prospettive di carriera e sostentamento e di diritti dei lavoratori. Precisamente, essi possono introdurre distorsioni nell’assegnazione dei compiti: ad esempio, possono classificare i lavoratori in base alla loro disponibilità ad accettare compiti o a lavorare nei turni di punta, penalizzando i gruppi marginalizzati o gli individui con responsabilità di cura di genitori malati o di figli piccoli.
Oppure, il monitoraggio di dati comportamentali di minore importanza, come la frequenza di digitazione, il tono delle e-mail o i tempi di risposta, potrebbe ignorare il contesto qualitativo del lavoro. Questo potrebbe svantaggiare gravemente i dipendenti neurodivergenti o coloro il cui processo lavorativo si basa su una riflessione profonda e ininterrotta piuttosto che su una produzione rapida e costante. Inoltre, la bozza sottolinea che l’assegnazione dei compiti non è solo una disposizione operativa; anzi, può essere determinante per lo sviluppo professionale. Ad esempio, la distribuzione di incarichi più complessi, visibili o redditizi potrebbe aprire la strada ad un avanzamento di carriera, mentre l’assegnazione di compiti ripetitivi o meno valorizzati potrebbe precludere una promozione e almeno potenzialmente influire sul reddito attuale o futuro.
Contano molto indicatori comportamentali come la puntualità, la reattività alle richieste dei clienti, l’affidabilità o le valutazioni delle prestazioni. Sistemi di AI che, ad esempio, negano l’accesso alle fasce orarie di consegna ai lavoratori con tassi di accettazione inferiori o tempi di risposta più lenti, o che classificano gli avvocati esterni freelance in base al tempo di risposta e alle valutazioni sulle loro prestazioni fornite dai legali interni dell’azienda, possono subordinare le opportunità di lavoro a tale profilazione comportamentale.
Quando l’alto rischio può essere escluso
Secondo la bozza delle linee guida della Commissione UE, si può escludere l’alto rischio quando il sistema gestisce l’assegnazione dei carichi sulla base di fattori neutri, oggettivi ed esterni. Ad esempio, un sistema di AI che assegna i compiti in base alla disponibilità indicata dai lavoratori negli strumenti di pianificazione o che distribuisce gli incarichi in base al possesso di una certificazione professionale richiesta, come ad esempio un permesso per carrelli elevatori o l’iscrizione all’albo degli avvocati, non è sistema di AI ad alto rischio ai sensi dell’Allegato III all’AI Act. Analogamente, i sistemi di AI che assegnano il lavoro in base alla prossimità geografica a un luogo di consegna non dovrebbero generalmente essere classificati come ad alto rischio.
Potremmo aggiungere qualche esempio a quelli forniti dalla bozza della Commissione UE. Ad esempio, un sistema di AI che assegna le aule ai docenti universitari sulla base delle loro presenze e del loro calendario didattico non è ad alto rischio; un sistema di AI che suggerisce l’assegnazione di task sulla base della circostanza che un collaboratore è prossimo o meno ad un periodo di ferie non è ad alto rischio.
Gestione dei carichi di lavoro e dati comportamentali
In conclusione, un sistema di AI di gestione dei carichi di lavoro sarà soggetto o meno alle norme dell’AI Act sui sistemi di AI ad alto rischio (imponendo o meno al fornitore i notevoli adempimenti previsti dall’AI Act per i sistemi ad alto rischio) a seconda che esso si basi o meno su tracce di operazioni che i lavoratori compiono usando strumenti di lavoro, raccolte e monitorate dinamicamente in modo da comprendere gli attuali, effettivi carichi di lavoro e da assegnare le attività considerando i reali ritmi e le reali attitudini dei lavoratori.
Secondo l’art. 10 dell’AI Act, i sistemi di AI ad alto rischio che utilizzano tecniche che prevedono l’uso di dati per l’addestramento di modelli di AI (come GPT) devono essere sviluppati sulla base di tre distinti dataset: a) di addestramento, b) di convalida, c) di prova, che devono soddisfare una serie di precisi criteri di qualità.
I criteri di qualità dei dataset secondo l’art. 10
In particolare, ognuno di questi dataset deve essere soggetto a pratiche di governance e di gestione dei dati adeguate alla finalità prevista del sistema di AI ad alto rischio, riguardanti: a) le scelte progettuali pertinenti; b) i processi di raccolta dei dati e l’origine dei dati, nonché la finalità originaria della raccolta nel caso di dati personali; c) le operazioni di trattamento pertinenti ai fini della preparazione dei dati, quali annotazione, etichettatura, pulizia, aggiornamento, arricchimento e aggregazione; d) la formulazione di ipotesi, in particolare per quanto riguarda le informazioni che si presume che i dati misurino e rappresentino; e) una valutazione della disponibilità, della quantità e dell’adeguatezza dei dataset necessari; f) un esame atto a valutare le possibili distorsioni suscettibili di incidere sulla salute e sulla sicurezza delle persone, di avere un impatto negativo sui diritti fondamentali o di comportare discriminazioni vietate dal diritto dell’UE, specie laddove gli output di dati influenzano gli input per operazioni future; g) le misure adeguate per individuare, prevenire e attenuare le possibili distorsioni individuate; h) l’individuazione di lacune o carenze pertinenti nei dati tali da pregiudicare il rispetto dell’AI Act e il modo in cui tali lacune e carenze possono essere colmate.
Sempre secondo l’art. 10 dell’AI Act, i dataset di addestramento, convalida e prova devono essere pertinenti, sufficientemente rappresentativi e, nella misura del possibile, esenti da errori e completi nell’ottica della finalità prevista; devono avere le proprietà statistiche appropriate anche, ove applicabile, per quanto riguarda le persone o i gruppi di persone relativamente ai quali il sistema di AI ad alto rischio è destinato a essere usato. Queste caratteristiche dei dataset possono essere soddisfatte a livello di singoli dataset o a livello di una combinazione degli stessi. Inoltre, i dataset devono tener conto, nella misura necessaria per la finalità prevista, delle caratteristiche o degli elementi particolari dello specifico ambito geografico, contestuale, comportamentale o funzionale all’interno del quale il sistema è destinato a essere usato.
Governance dei dati e prevenzione delle distorsioni
Per gestire al meglio le operazioni di trattamento, bisognerebbe stabilire processi chiari e documentati per la pulizia, l’etichettatura e l’arricchimento dei dati, così da evitare che dati errati in entrata provochino risultati errati in uscita. Inoltre, bisognerebbe impostare un adeguato filtraggio dei dati, tale da permettere l’esclusione automatica di valutazioni organizzative inappropriate o di precedenti gestioni dei carichi di lavoro non più applicabili. Per accertarsi della quantità e dell’adeguatezza dei dataset, il fornitore dovrebbe controllare che essi contengano tutte le variabili rilevanti necessarie per un’assegnazione dei carichi di lavoro appropriata e imparziale. Inoltre, dovrebbe mappare eventuali lacune (ad esempio, specifici record mancanti per il personale part-time o da remoto). Per prevenire distorsioni, i dati dovrebbero riflettere lo specifico contesto lavorativo (es. azienda di un determinato settore merceologico, società di consulenza, ecc.) in cui l’AI sarà usata per la gestione dei carichi di lavoro. Il campionamento andrebbe gestito in modo che i gruppi minoritari e le diverse caratteristiche demografiche dei lavoratori siano rappresentati in modo proporzionato. Sul piano dell’accountability, il fornitore dovrebbe documentare l’origine della raccolta dei dati, le operazioni di pulizia, etichettatura, aggregazione e il ragionamento alla base di tutte le ipotesi.
Posto che quelli appena indicati sono temi di governance trasversali, proviamo a individuare pratiche specifiche per ciascuna delle tre fasi, e cioè addestramento, convalida (fine tuning) e prova (testing).
Addestramento, convalida e prova del sistema AI
Per l’addestramento, il fornitore di un sistema di AI ad alto rischio di gestione dei carichi di lavoro dovrebbe assicurarsi che i dataset siano diversificati e rappresentativi della popolazione in cui verrà utilizzato il sistema (cioè, nel nostro esempio, persone che svolgono un lavoro di concetto). Per garantire la qualità del dataset di addestramento, il fornitore dovrebbe individuare in modo ponderato le tipologie di dati da raccogliere e i metodi della loro acquisizione, le fasi di preparazione del dataset (pulizia, etichettatura, normalizzazione e scalatura, suddivisione), i criteri, le misure e la soglia di qualità dei dati. Si ottiene qualità acquisendo i dati da fonti affidabili e, se è possibile, confrontando i dati personali utilizzati per creare il dataset con fonti simili e affidabili, affidando la revisione umana a persone con competenze specifiche nel settore della gestione dei team e delle operazioni, usando tecniche di corrispondenza approssimativa (con verifica della somiglianza delle voci dei dati personali utilizzati per formare il dataset), utilizzando tecniche statistiche per identificare potenziali distorsioni e documentando la provenienza dei dati personali utilizzati per formare il dataset, così da giustificarne la correttezza, la validità e la tracciabilità. Inoltre, il fornitore dovrebbe eseguire regolarmente verifiche sulla qualità dei dati personali utilizzati per l’addestramento del sistema, impiegando tecniche statistiche per rilevare eventuali valori anomali.
Fine-tuning e feedback umano
Per la gestione del fine-tuning, sarebbe necessario un bilanciamento tra le raccomandazioni dell’AI e il giudizio umano per garantire che i compiti vengano instradati correttamente senza pregiudizi o sovraccarico cognitivo. Inoltre, bisognerebbe identificare cosa costituisce un’assegnazione di compiti “di successo” e su quali basi essa può avvenire (rapidità di completamento di attività, accuratezza, soddisfazione riportata dalla clientela, ecc.). Inoltre, bisognerebbe implementare l’apprendimento per rinforzo da feedback AI/umano (RLHF/RLAIF) per valutare se l’AI assegna effettivamente bene i compiti. Ogni volta che un’assegnazione di compiti porta a una scadenza mancata o a una valutazione negativa da parte dell’utente, il modello di AI dovrebbe ricevere una penalità negativa. Infine, l’AI dovrebbe elaborare continuamente nuovi dati di interazione (ad esempio, come la singola persona risponde agli incarichi correnti in tempo reale) per aggiornare il modello.
Testing, bias e human in the loop
Per il terzo dataset (quello di prova) occorre stabilire parametri di riferimento chiari per far sì che l’algoritmo produca risultati positivi con la stessa percentuale per gruppi di persone differenti, indipendentemente da caratteristiche come sesso o età. Inoltre, oltre all’AI Act, bisogna tenere conto delle altre normative applicabili: quella a protezione dei dati personali e (in Italia) lo Statuto dei lavoratori. Il processo di testing dovrebbe essere impostato dal fornitore del sistema di AI di gestione dei carichi di lavoro (se qualificabile come “ad alto rischio”) in modo da: 1) individuare (al fine di estirparli subito) eventuali bias, cioè pregiudizi legati all’età, al genere o a caratteristiche neurologiche o psicologiche; 2) garantire che gli output (ad esempio, assegnazione di task) vengano esaminati e convalidati da persone (“human in the loop”); 3) verificare che la logica seguita dall’AI nelle assegnazioni sia comprensibile.
Gli altri obblighi del fornitore secondo l’AI Act
Attrezzandosi a rispettare l’art. 10 dell’AI Act, il fornitore di un sistema di AI ad alto rischio di gestione dei compiti e dei carichi di lavoro si conforma solo ad uno degli obblighi che l’AI Act gli impone. In aggiunta, deve dotarsi di un sistema di gestione dei rischi (art. 9), predisporre una documentazione tecnica (art. 11) e conservarla (art. 18), attrezzarsi a consentire a livello tecnico la registrazione automatica degli eventi («log») lungo la durata del ciclo di vita del sistema (art. 12) e conservare tali log, per lo meno nella misura in cui sono sotto il suo controllo (art. 19), garantire trasparenza sul funzionamento del sistema e dare informazioni ai deployer (art. 13), integrare il sistema con strumenti e soluzioni che permettano al deployer una sorveglianza umana sul loro uso (art. 14), assicurare un adeguato livello di accuratezza, robustezza e cibersicurezza (art. 15), istituire un sistema di gestione della qualità che garantisce la conformità all’AI Act (art. 17), attrezzarsi ad implementare immediatamente eventuali misure correttive per rendere conforme il dispositivo conforme all’AI Act, ritirarlo, disabilitarlo o richiamarlo (art. 20), cooperare con le autorità competenti ove necessario.
Il fatto che il termine per conformarsi slitti al 2 dicembre 2027 non toglie granché all’estrema gravosità di questi adempimenti. Come sempre, la prima fase di adeguamento – in assenza di orientamenti consolidati delle Autorità di controllo che permettano di capire quali sono gli standard attesi – sarà la più ostica.
Partecipa alla community