L’utilizzo dell’intelligenza artificiale in relazione ai macchinari industriali promette da un lato incrementi di produttività, ottimizzazione dei consumi energetici e riduzione degli errori umani, dall’altro introduce una serie di rischi specifici che richiedono di ripensare la tradizionale procedura di valutazione dei rischi nelle fabbriche considerando anche il nuovo regolamento macchine.
La valutazione dei rischi è un pilastro fondamentale della sicurezza sul lavoro e rappresenta un obbligo normativo per tutte le aziende. Questo processo, che trova la sua formalizzazione nel Documento di Valutazione dei Rischi (DVR), consiste nell’identificare sistematicamente i potenziali pericoli dell’ambiente lavorativo, stimare le probabilità che essi si verifichino e la gravità delle conseguenze, quindi determinare le misure preventive e protettive necessarie. L’analisi dei rischi costituisce inoltre un passaggio fondamentale per ottenere la certificazione CE[1] di singoli macchinari e linee produttive.
Indice degli argomenti
Valutazione dei rischi sul lavoro, cosa cambia con l’AI
L’immissione di sistemi di intelligenza artificiale nei macchinari industriali sta tuttavia introducendo nuove variabili nella valutazione dei rischi. La capacità di apprendimento automatico, l’autonomia decisionale e la complessità algoritmica dei sistemi a base di IA generano infatti scenari di rischio con caratteristiche inedite, difficilmente inquadrabili affidandosi solo agli approcci metodologici già consolidati.
Le principali criticità che emergono in questo ambito sono gli errori dei software e le cosiddette allucinazioni dei sistemi di IA, le vulnerabilità della sicurezza informatica che espongono i macchinari intelligenti a minacce esterne, il pericolo di perdita di controllo umano sui processi decisionali automatizzati e, non da ultimo, lo stress psicologico che può colpire gli operatori chiamati a interfacciarsi con tecnologie sempre più sofisticate. Queste tematiche costituiscono sfide cruciali per i professionisti della sicurezza industriale e gli imprenditori che vogliono adottare sistemi di intelligenza artificiale, e comprendere queste nuove dimensioni del rischio è il primo passo per sviluppare strategie di mitigazione efficaci e per arrivare ad un necessario aggiornamento delle pratiche di settore.
Errori software e allucinazioni dell‘AI
Tra i rischi più significativi e specifici legati all’utilizzo dell’intelligenza artificiale bisogna necessariamente citare gli errori del software e le cosiddette allucinazioni dell’IA, ovvero risposte o analisi sbagliate generate dai sistemi di intelligenza artificiale. Per fare un esempio, un sistema di IA impiegato nella manutenzione predittiva potrebbe generare falsi positivi e segnalare anomalie inesistenti o, ancor peggio, creare falsi negativi, omettendo di rilevare problemi reali. Le conseguenze possono compromettere non solo l’efficienza produttiva ma anche, nei casi più gravi, la sicurezza degli operatori.
Le allucinazioni dell’IA sono un problema strutturale legato a questi sistemi, e rappresentano forse il vero punto debole di questa tecnologia. Utilizzando il linguaggio “tecnico” della sicurezza sul lavoro, possiamo definirle come rischio non eliminabile. Ciò non significa che non si possano attuare efficaci strategie per mitigare il pericolo, prima di tutto impostando dei processi che prevedano necessariamente uno step di validazione umana delle decisioni prese dall’IA. Nel caso di software IA usati per la manutenzione, ad esempio, ci sarà bisogno del “via libera” di un manutentore esperto. Oppure, se si utilizza l’intelligenza artificiale per tradurre il manuale d’uso di un macchinario in una lingua straniera, il risultato dovrà essere passato al vaglio di un traduttore professionista, e così via.
Rischi legati alla sicurezza informatica
Un altro importante elemento di vulnerabilità dei sistemi intelligenti è quello connesso alla sicurezza informatica: veicoli autonomi, sensori IA e magazzini automatizzati possono finire nel mirino degli hacker, con il rischio di furto di dati, blocchi operativi o manipolazioni che vanno a danneggiare profondamente il sistema produttivo. Per ridurre questo tipo di pericoli sarà necessario prestare ancora più attenzione alla cybersecurity aziendale, focalizzandosi sulla sicurezza degli accessi e la protezione dei sistemi e dei dati sensibili. È inoltre fondamentale formare in modo adeguato il personale, in modo che eventuali tentativi di attacco vengano subito riconosciuti e rapidamente arginati.
Rischi di perdita di controllo umano
L’utilizzo di sistemi di intelligenza artificiale che prendono decisioni critiche solleva anche delle concrete preoccupazioni sulle possibilità di intervento umano tempestivo in situazioni d’emergenza. Gli algoritmi, per quanto sofisticati, seguono regole rigide e spesso non sono in grado di adattarsi a cambiamenti improvvisi o a contesti imprevisti. Per contrastare questo pericolo bisognerà intervenire per mantenere un costante principio di controllo umano sui macchinari, garantendo ad esempio la possibilità dell’override manuale e assicurandosi tramite la formazione che gli operatori siano capaci di intervenire in qualsiasi momento per sovrascrivere le azioni del sistema di IA.
Rischi di isolamento e tecnostress
Quando si parla di intelligenza artificiale in fabbrica non bisogna, infine, sottovalutare i pericoli legati all’impatto sulla salute psicologica dei lavoratori. Negli ultimi anni si discute sempre più spesso di tecnostress: un termine con cui si indica la condizione di affaticamento cognitivo ed emotivo che deriva dall’interazione con tecnologie sempre più complesse e in continuo aggiornamento, a cui va aggiunto il crescente isolamento sociale degli operatori che lavorano in contesti via via più automatizzati. Per contrastare questi rischi è necessario puntare su una formazione strutturata e specifica, che tenga conto anche del fattore psicologico e che implementi strategie di mitigazione mirate (es. pause dalla tecnologia, utilizzo di interfacce ergonomiche eccetera).
_____
Bibliografia
“Intelligenza artificiale: i rischi nelle fabbriche. Guida per chi vuole l’IA negli stabilimenti industriali”, dell’autore Claudio Delaini e dei collaboratori Silvia Zuanon, Massimo Marini e Roberto Serra, 2025.
