Strumenti di generazione automatica di contenuti, software di analisi dei dati, chatbot per il customer care e sistemi di supporto alle decisioni sono ormai parte della quotidianità di molte organizzazioni. Tuttavia, un uso improprio di queste tecnologie comporta rischi rilevanti a livello etico, sociale, economico, di sicurezza e cybersecurity.
In base all’AI Act, le organizzazioni che sviluppano o utilizzano sistemi di intelligenza artificiale devono promuovere un livello adeguato di conoscenza e consapevolezza tra le persone coinvolte a livello normativo, etico e organizzativo. In pratica, chi utilizza l’intelligenza artificiale deve comprenderne il funzionamento, i limiti e i rischi.
Ma cosa significa AI literacy e quali obblighi comporta per le aziende?
Indice degli argomenti
Cosa dice l’AI Act sull’AI literacy
Per garantire un utilizzo consapevole e informato di queste tecnologie l’Unione europea ha introdotto l’AI literacy, la formazione obbligatoria sull’AI per le aziende. Il testo di riferimento è l’AI Act, il Regolamento europeo 2024/1689 che disciplina lo sviluppo, la commercializzazione e l’utilizzo dei sistemi di intelligenza artificiale all’interno del mercato unico europeo. L’articolo 4 del Regolamento, infatti, dice che:
“I fornitori e i deployer dei sistemi di IA adottano misure per garantire nella misura del possibile un livello sufficiente di alfabetizzazione in materia di IA del loro personale nonché di qualsiasi altra persona che si occupa del funzionamento e dell’utilizzo dei sistemi di IA per loro conto, prendendo in considerazione le loro conoscenze tecniche, la loro esperienza, istruzione e formazione, nonché il contesto in cui i sistemi di IA devono essere utilizzati, e tenendo conto delle persone o dei gruppi di persone su cui i sistemi di IA devono essere utilizzati”.
AI Literacy, in cosa consiste la formazione obbligatoria AI
Il concetto di alfabetizzazione digitale sull’intelligenza artificiale è molto ampio e fa riferimento alla capacità di comprendere il ruolo degli algoritmi nei processi decisionali e nelle attività operative.
Questo tipo di conoscenza è fondamentale perché molti sistemi AI producono risultati che possono incidere concretamente sulla vita delle persone.
Pensiamo ai software utilizzati per analizzare curriculum, ai sistemi di scoring finanziario, agli algoritmi che determinano prezzi dinamici o alle piattaforme di assistenza automatizzata ai clienti.
In ognuno dei casi citati, l’uso inconsapevole della tecnologia può generare errori, discriminazioni o decisioni ingiuste. Per cui, il legislatore europeo ha deciso di intervenire direttamente sul tema della formazione col fine di garantire:
● la comprensione delle tecnologie AI, ossia la familiarità con concetti come machine learning, reti neurali e modelli linguistici di grandi dimensioni;
● la conoscenza applicativa relativa all’uso dei sistemi di intelligenza artificiale all’interno dei processi aziendali;
● lo sviluppo di un pensiero critico che permetta di valutare vantaggi e rischi dell’AI considerando anche gli aspetti etici;
● la conformità normativa, grazie alla conoscenza delle implicazioni legali legate all’uso dell’AI.
Una persona alfabetizzata sull’AI, per esempio, dovrà essere in grado di capire quali dati alimentano un sistema di intelligenza artificiale, quali sono i limiti di affidabilità di un algoritmo, che rischi possono emergere in termini di discriminazione o bias, quando è necessario intervenire con una supervisione umana.
Come la formazione obbligatoria AI entra nell’AI Act
L’AI Literacy non è una semplice raccomandazione né tantomeno un aggiornamento professionale facoltativo. L’AI Act impone alle imprese di adottare misure concrete per formare il proprio personale, inserendo l’alfabetizzazione AI tra gli elementi fondamentali della compliance aziendale.
Con il lancio ufficiale di ChatGPT a novembre 2022, l’intelligenza artificiale è entrata nel nostro quotidiano, cambiando profondamente le abitudini private e lavorative delle persone. L’impatto dell’AI sulla società è stato talmente profondo e rapido da richiedere l’intervento del legislatore per disciplinare lo sviluppo e l’utilizzo di queste tecnologie. Il risultato di questo percorso legislativo è stato l’AI Act, il primo regolamento europeo dedicato all’intelligenza artificiale, una normativa specifica che mira a bilanciare innovazione tecnologica, tutela dei diritti fondamentali e sicurezza dei sistemi digitali.
L’obiettivo principale della normativa è creare un quadro regolatorio uniforme che consenta di sfruttare le opportunità offerte dall’AI riducendo al minimo i rischi per i cittadini e per le organizzazioni. Per farlo, il legislatore europeo ha adottato un approccio basato sul rischio, ossia il regolamento classifica i sistemi di intelligenza artificiale in diverse categorie, a seconda del livello di pericolo che possono rappresentare per i diritti fondamentali e per la sicurezza delle persone.
I livelli di rischio previsti dal regolamento
I livelli di rischio previsti dall’AI Act
I livelli di rischio individuati all’interno dei sistemi AI sono quattro:
- sistemi a rischio inaccettabile;
- sistemi ad alto rischio;
- sistemi a rischio limitato;
- sistemi a rischio minimo.
Perché ci interessa la classificazione dei rischi se parliamo di formazione obbligatoria AI?
Anche sugli obblighi relativi alla formazione AI si applica il principio di proporzionalità caratteristico dell’AI Act. In pratica, a seconda del livello di rischio, cambia il tipo di formazione richiesta.
I sistemi considerati a rischio inaccettabile, come alcune forme di sorveglianza biometrica o di manipolazione comportamentale, sono vietati. Altri sistemi sono classificati come ad alto rischio e sono soggetti a requisiti molto rigorosi in termini di trasparenza, sicurezza e controllo umano. Esistono poi sistemi a rischio limitato o minimo, per i quali gli obblighi sono meno stringenti.
Quando scatta la formazione obbligatoria AI
Il regolamento europeo sull’intelligenza artificiale prevede un’applicazione progressiva delle sue disposizioni. Dopo l’entrata in vigore formale nel 2024, le norme iniziano a produrre effetti concreti secondo una tempistica graduale pensata per consentire alle aziende di adeguarsi.
Per quanto riguarda la formazione AI, l’obbligo è scattato il 2 febbraio 2025, momento a partire dal quale le aziende hanno dovuto cominciare a promuovere l’alfabetizzazione sull’intelligenza artificiale.
La formazione diventa quindi parte integrante della strategia di compliance aziendale, al pari di altri adempimenti già noti nel diritto digitale, come la protezione dei dati personali o la sicurezza informatica.
Quali aziende devono rispettare la formazione obbligatoria AI
Chi pensa che solo le big tech debbano occuparsi di formazione AI non si rende conto della portata dell’AI Act e delle implicazioni dell’intelligenza artificiale. L’obbligo di formazione sull’intelligenza artificiale interessa tutti i soggetti che operano nel mercato europeo e che sviluppano, distribuiscono o utilizzano sistemi di intelligenza artificiale.
In termini pratici, questo significa che l’obbligo può riguardare:
● startup tecnologiche;
● PMI digitali;
● agenzie di marketing;
● società di consulenza;
● aziende di ecommerce;
● studi professionali;
● grandi imprese industriali.
Un elemento importante è che la normativa non distingue tra utilizzo diretto o indiretto della tecnologia e interessa sia i fornitori (provider) che i deployer (gli utilizzatori). Dunque, anche le aziende che adottano soluzioni sviluppate da fornitori esterni devono assicurarsi che il personale sia adeguatamente formato.
Chi coinvolge la formazione obbligatoria AI in azienda
Come abbiamo visto, quindi, sia i fornitori che gli utilizzatori sono soggetti all’obbligo di formazione AI.
Per fornitore o provider, l’AI Act intende: “una persona fisica o giuridica, un’autorità pubblica, un’agenzia o un altro organismo che sviluppa un sistema di IA o un modello di IA per finalità generali” o che lo faccia sviluppare da terzi per poi metterlo in commercio a suo nome.
Il deployer, invece, viene definito come “una persona fisica o giuridica, un’autorità pubblica, un’agenzia o un altro organismo che utilizza un sistema di IA” sotto la sua autorità nel corso di un’attività professionale.
Gli obblighi, quindi, riguardano tutte le persone che utilizzano sistemi di intelligenza artificiale nel contesto delle proprie attività lavorative e non è destinato solo a figure professionali specializzate come sviluppatori, ingegneri o specialisti IT.
La formazione obbligatoria AI deve essere fatta ad esempio da: responsabili delle risorse umane; professionisti del marketing; team di vendita; operatori del customer care; manager e dirigenti aziendali; sviluppatori; ingegneri; professionisti IT.
Molte di queste figure utilizzano strumenti di AI in modo indiretto, spesso integrati nei software che impiegano quotidianamente. Pensiamo ad esempio ai sistemi di generazione automatica di contenuti per il marketing, agli strumenti di analisi predittiva utilizzati nelle vendite o alle piattaforme di assistenza clienti basate su chatbot. Anche chi utilizza questi strumenti senza occuparsi della loro progettazione deve essere in grado di comprenderne il funzionamento di base e le implicazioni legali.
Formazione obbligatoria AI e imprese extraeuropee
L’AI Act, così come il GDPR, si applica anche alle aziende extraeuropee qualora i loro sistemi AI abbiano un impatto sui cittadini o sui mercati europei. In pratica, secondo il principio di extraterritorialità, se una società statunitense, asiatica o di qualsiasi altra parte del mondo utilizza sistemi AI che incidono su utenti europei ha l’obbligo di promuovere la formazione sull’intelligenza artificiale.
Come organizzare la formazione obbligatoria AI
L’AI Act prevede che le misure adottate siano proporzionate al contesto in cui i sistemi di intelligenza artificiale vengono utilizzati. Per questo motivo non esiste un modello unico di formazione valido per tutte le organizzazioni, ma ogni azienda deve sviluppare un percorso formativo su misura.
Lo sviluppo di un programma formativo deve tenere conto del settore di attività e del tipo di tecnologia utilizzata. Inoltre, va considerato il personale che dovrà partecipare ai corsi, valutando il livello di competenze digitali interne e i ruoli coinvolti nell’utilizzo dell’AI.
In generale, i programmi formativi dovrebbero includere almeno tre dimensioni fondamentali: la prima riguarda gli aspetti tecnologici di base, necessari per comprendere come funzionano i sistemi di intelligenza artificiale; la seconda è un focus sul quadro normativo e i principi di compliance previsti dalla legislazione europea; infine, vanno analizzate le implicazioni etiche e organizzative dell’uso degli algoritmi nei processi decisionali.
Un aspetto fondamentale nella formazione sull’intelligenza artificiale è la documentazione: le aziende dovrebbero conservare evidenze delle attività formative svolte da presentare in caso di audit o verifiche da parte delle autorità competenti.
La formazione, infine, dovrebbe inoltre essere aggiornata periodicamente, soprattutto quando vengono introdotti nuovi strumenti di intelligenza artificiale nei processi aziendali.
Gli strumenti per erogare la formazione
Tra le soluzioni più diffuse per sviluppare percorsi di AI literacy troviamo le piattaforme di e-learning, che consentono di erogare contenuti formativi in modo flessibile e scalabile. I corsi online sull’AI permettono anche di tracciare la partecipazione dei dipendenti e di documentare le attività formative, elemento importante in caso di controlli da parte delle autorità.
Accanto alla formazione digitale, molte organizzazioni scelgono di affiancare workshop, seminari e sessioni di formazione in presenza. Questo è molto utile per dare strumenti pratici ai dipendenti e ai collaboratori.
In alcuni contesti più strutturati può essere utile creare anche gruppi di lavoro interni dedicati alla governance dell’intelligenza artificiale.
Rischi e conseguenze senza formazione obbligatoria AI
L’AI Act non prevede sanzioni specifiche relative all’obbligo di formazione, ma esiste comunque un quadro sanzionatorio severo per chi non rispetta il regolamento.
Le multe possono arrivare fino a 35 milioni di euro o al 7% del fatturato globale annuo nei casi più gravi. Tuttavia, oltre alle sanzioni economiche, esistono altri rischi altrettanto rilevanti.
Un utilizzo scorretto dell’intelligenza artificiale può generare errori nei processi decisionali, discriminazioni involontarie o violazioni dei diritti fondamentali. Questi episodi possono tradursi in contenziosi legali, danni reputazionali e perdita di fiducia da parte di clienti e partner commerciali. Di conseguenza, la formazione del personale rappresenta anche una misura di prevenzione contro questi rischi.
In ultimo, ciò che è necessario comprendere, accanto agli obblighi tecnici e organizzativi previsti per i sistemi più complessi, è il principio culturale che vuole diffondere l’AI Act: l’AI non può essere utilizzata senza comprenderne le ripercussioni sugli utenti, sul mercato e sulla società.
Per questo motivo, per le aziende che utilizzano sistemi di intelligenza artificiale diventa sempre più importante affiancare allo sviluppo tecnologico anche una valutazione legale e di compliance, così da prevenire rischi normativi e reputazionali e integrare l’AI in modo responsabile nei propri processi aziendali.
