Quando un agente di Intelligenza Artificiale compie o agevola una condotta criminosa alterando un flusso documentale, forzando un perimetro logico o bypassando controlli di sicurezza informatica si pone un nodo interpretativo non più teorico circa l’individuazione del soggetto responsabile. Sebbene il codice binario non sia di per sé imputabile, l’idea che l’algoritmo sia un mero attrezzo inerte mostra i suoi limiti non appena il sistema opera con gradi sempre più elevati di autonomia decisionale. A questo punto, se l’azione del software persegue un interesse o genera un vantaggio per l’impresa e l’architettura aziendale si rivela priva di presidi preventivi e di sorveglianza effettiva, la risposta dell’ordinamento trova soluzione.
A rispondere dei difetti di controllo sarà l’organizzazione stessa, chiamata in causa ai sensi del D.Lgs. 231/2001 per mancato adeguamento del proprio Modello di Organizzazione, Gestione e Controllo (MOGC).
Il principio tradizionale per cui machina delinquere non potest presidia tuttora la linea di demarcazione della responsabilità personale, dove un algoritmo, privo di coscienza e volontà (suitas ex art. 42 c.p.), non è un soggetto imputabile. Tuttavia, se sul piano della persona fisica il diritto penale ricerca la colpevolezza individuale, sul versante societario la prospettiva riguarda la struttura di governance e in assenza di adeguate misure organizzative, protocolli di sorveglianza e controlli effettivi, l’ente risponde direttamente a titolo di «colpa di organizzazione».
I moderni sistemi basati su agenti autonomi decompongono obiettivi, elaborano percorsi operativi, interagiscono con banche dati, richiamano API esterne ed eseguono transazioni. Quando tale motore decisionale viene integrato nei processi d’impresa per ottimizzare i flussi operativi o comprimere tempi e costi, qualunque deviazione penalmente rilevante non presidiata espone l’ente alla contestazione di responsabilità amministrativa da reato.
Indice degli argomenti
Dall’applicativo deterministico alla colpa di organizzazione
Finché i sistemi di elaborazione eseguivano istruzioni deterministiche, la qualificazione giuridica della condotta poggiava agevolmente sull’archetipo dello strumento esecutivo che vedeva la macchina operare quale prolungamento dell’operatore, lì, l’eventuale illecito veniva imputato al dolo o alla colpa dell’utente o dello sviluppatore.
Con i modelli agentici basati su reti neurali e apprendimento continuo, tale paradigma mostra i suoi limiti: la condotta dell’agente può discostarsi dalle previsioni originarie senza che vi sia una specifica volontà della persona fisica di realizzare quel singolo esito.
L’agente software riceve un obiettivo lecito, ad esempio, ottimizzare la qualificazione dei fornitori o analizzare moli massive di candidature ma, nell’eseguirlo autonomamente, può individuare scorciatoie operative non previste che integrano un illecito penale. In questo contesto, l’autonomia del software non genera un vuoto di tutela, la mancata adozione di barriere organizzative, procedurali e ispettive idonee a governare il sistema fonda la rimproverabilità dell’ente, qualora l’operazione abbia arrecato un interesse o un vantaggio alla società (incluso il risparmio di spesa o l’accelerazione dei tempi contrattuali), con il risultato che, l’impresa risponde delle omissioni preventive e della carenza di controllo durante l’intero ciclo di vita dell’applicativo.
Lo scenario operativo: reati informatici e procurement algoritmico
L’aggiornamento del Modello 231 richiede una mappatura analitica calata sui singoli processi operativi, superando clausole generiche o formule di stile in tema di cybersicurezza.
Tra le aree a maggior profilo di rischio figurano i reati informatici richiamati dall’art. 24-bis del D.Lgs. 231/2001, un contesto tipico e trasversale è rappresentato dall’impiego dell’IA nella catena di fornitura e nel procurement, dove l’automazione presidia lo screening dei fornitori, l’analisi delle offerte tecniche, la verifica documentale e la gestione delle piattaforme di gara.
In tale ambito possono configurarsi fattispecie concrete quali:
- Accesso abusivo a un sistema informatico (art. 615-ter c.p.): un agente preposto alla raccolta di informazioni commerciali o alla verifica di congruità economica dei prezzi può essere configurato (o indotto da istruzioni operative non calibrate) a estrarre dati riservati da repository cloud protetti o portali terzi, eludendo credenziali o sfruttando endpoint non protetti. Tale condotta integra un accesso abusivo perpetrato nell’interesse dell’ente committente.
- Danneggiamento di informazioni, dati e sistemi (artt. 635-bis e ss. c.p.): l’interazione non controllata via API tra i sistemi dell’ente e le infrastrutture dei partner commerciali può innescare alterazioni di tabelle di database, corruzioni di log o interruzioni di servizio, integrando fattispecie di danneggiamento informatico.
- Frode informatica e alterazione dei sistemi: l’impiego di modelli predittivi per stilare graduatorie di gara espone al rischio di manipolazione delle metriche o manomissione dei pesi decisionali (data poisoning), con alterazione indebita dei punteggi di scoring a favore o danno di specifici concorrenti.
Il perimetro di esposizione comprende inoltre la supply chain digitale e la cosiddetta Shadow AI: l’impiego non autorizzato di strumenti esterni da parte del personale, con immissione di dati aziendali riservati, costituisce un vettore di vulnerabilità che può introdurre rischi logici e penali all’interno dell’infrastruttura societaria.
Integrazione operativa: OdV, CISO, IT e DPO
La governance dell’Intelligenza Artificiale non può risolversi in un adempimento cartaceo delegato esclusivamente all’ufficio legale o in un tema circoscritto alla direzione tecnica, invero, con l’inserimento dell’IA nei flussi decisionali, la conformità al D.Lgs. 231/2001 richiede un presidio organizzativo trasversale, in cui ogni figura aziendale fino agli operatori addetti al controllo degli accessi e ai sistemi biometrici operi secondo precisi obblighi procedurali.
La tradizionale separazione a compartimenti stagni (DPO per la protezione dei dati personali e le DPIA, CISO per la sicurezza perimetrale e l’incident response, IT per le architetture, OdV per le verifiche periodiche) impedisce un controllo efficace dinanzi all’opacità dei sistemi algoritmici.
L’Organismo di Vigilanza, pur non disponendo di competenze ingegneristiche dirette, deve poter contare su canali di comunicazione strutturati e tempestivi, finalizzati a fornire:
- Flussi ordinari programmabili (es. a cadenza trimestrale per sistemi a impatto rilevante): trasmissione periodica all’OdV dello stato di censimento degli applicativi, delle risultanze degli audit di sicurezza sui fornitori terzi e dei report sintetici sull’accuratezza e sull’eventuale deriva (drift) dei modelli.
- Flussi straordinari su base evento (trigger): comunicazione immediata all’OdV in ordine a incidenti di sicurezza logica, anomalie di autenticazione o violazioni di dati personali ex art. 33 GDPR che possano lambire le fattispecie presupposto dell’art. 24-bis.
- Raccordo metodologico tra DPIA e Risk Assessment 231: le valutazioni d’impatto condotte dal DPO sui trattamenti algoritmici devono alimentare direttamente l’analisi dei rischi 231. Una violazione nel trattamento massivo di dati o credenziali costituisce sovente l’indice predittivo di un potenziale reato informatico o di violazione di segreti industriali.
Tracciabilità forense e supervisione umana effettiva
L’efficacia esimente del Modello 231 poggia sulla capacità dell’organizzazione di documentare con rigore scientifico il funzionamento dei propri sistemi e le determinazioni assunte e qualora l’azienda non sia in grado di ricostruire la genesi di una decisione algoritmica a causa della cosiddetta «Black Box», l’impiego del sistema si tradurrà in un rischio processuale elevato.
Per garantire solidità probatoria, la conformità deve strutturarsi su due pilastri operativi fondamentali.
1. Immutabilità del dato e tracciabilità tecnica dell’ecosistema algoritmico
Affidare la tracciabilità delle operazioni algoritmiche a buffer volatili soggetti a rotazione o sovrascrittura automatica vanifica la possibilità di produrre un riscontro tecnico in sede giudiziaria. I log di audit dell’agente o del modello comprensivi di identificativo di sessione, credenziali operative, prompt di input, passaggi intermedi di reasoning ed esiti generati, richiedono un’architettura di conservazione centralizzata, segregata e protetta crittograficamente.
Sotto il profilo tecnico-operativo, ciò comporta l’adozione fin dal rilascio (deploy) di repository con tecnologia WORM (Write Once, Read Many) o storage a immutabilità nativa, integrati da routine di marcatura temporale e calcolo dell’impronta hash (es. SHA-256). Tale impianto consente di preservare una catena di custodia inattaccabile, documentando l’integrità del dato informatico e superando le contestazioni di manomissione o carenza probatoria nel contraddittorio peritale.
2. Sorveglianza umana effettiva e gestione dell’override
L’integrazione di sistemi predittivi non esonera l’ente dagli obblighi di vigilanza.
Quando l’intervento umano nel ciclo operativo (Human-in-the-loop) si riduce a una mera vidimazione formale o all’assenso frettoloso dinanzi all’interfaccia, si manifesta il fenomeno dell’automation bias: la fiducia acritica nell’output della macchina neutralizza il vaglio umano e annulla l’efficacia esimente del MOGC e degli assetti organizzativi ex art. 2086 c.c.
L’art. 14 del Regolamento (UE) 2024/1689 (AI Act) prescrive che la sorveglianza sui sistemi ad alto rischio debba porre l’operatore nelle condizioni di comprendere le capacità e i limiti della tecnologia, individuare tempestivamente deviazioni ed evitare l’eccessivo affidamento.
Affinché la supervisione risulti concretamente riscontrabile, il protocollo organizzativo deve garantire tre condizioni essenziali:
- Tempo istruttorio adeguato: l’operatore non deve essere vincolato a metriche di produttività che impongano di completare la validazione in tempi incompatibili con un esame attento del dossier.
- Competenza tecnica: il personale incaricato deve possedere la formazione necessaria a decodificare gli input, valutare i parametri considerati e contestare l’esito proposto.
- Autonomia e potere di intervento: la procedura aziendale deve conferire la facoltà formale di sospendere, modificare o sovrascrivere l’output del sistema senza il timore di ripercussioni operative o disciplinari.
L’adesione alla raccomandazione algoritmica o la sua reiezione devono essere documentate a sistema mediante motivazione espressa. Nelle procedure di procurement, ad esempio, qualora il sistema segnali un indice di anomalia su un fornitore, l’operatore che decida di procedere all’aggiudicazione deve formalizzare le ragioni tecniche della propria scelta, assicurando evidenza che la decisione è frutto di una valutazione umana consapevole.
Elemento cardine della vigilanza è la gestione dell’override. Ogni deroga rispetto all’indicazione del software deve essere registrata in modo puntuale all’interno di un log non modificabile, associandovi identificativo utente, marcatura temporale e motivazione del dissenso. In sede ispettiva, l’OdV deve monitorare l’estrazione periodica del report delle divergenze (discrepancy rate): un registro delle decisioni con un tasso di dissenso pari a zero non attesta la perfezione del sistema, bensì la probabile assenza di un controllo critico effettivo da parte degli operatori.
Check-list operativa in cinque punti per l’aggiornamento del MOGC
Per raccordare il Modello Organizzativo all’evoluzione delle tecnologie algoritmiche e garantire concreta efficacia esimente dinanzi ai reati informatici, l’ente deve dare esecuzione a un programma articolato su cinque direttrici prioritarie.
1. Censimento e inventario della Shadow AI
L’organizzazione deve disporre di una mappatura esaustiva degli applicativi effettivamente utilizzati dal personale. L’impiego non autorizzato di strumenti esterni di IA generativa (Shadow AI) per l’elaborazione di bilanci previsionali o porzioni di codice proprietario espone l’ente a violazioni del segreto industriale, incidenti di sicurezza e responsabilità concorrente in delitti informatici. Il censimento deve riguardare applicativi, estensioni browser, librerie e API integrate nei processi, affiancato da policy chiare e controlli tecnici che vietino l’immissione di dati confidenziali in ambienti cloud pubblici non controllati.
2. Aggiornamento della matrice rischi-reato sull’art. 24-bis
L’aggiornamento della parte speciale deve concentrarsi sui singoli processi operativi in cui operano algoritmi e agenti, correlandoli alle fattispecie di reato informatico tipizzate nell’art. 24-bis (introdotte dalla Legge 48/2008). Nelle attività di acquisto e approvvigionamento, ad esempio, occorre valutare il rischio che un agente autonomo realizzi accessi abusivi (art. 615-ter c.p.), detenzione illegittima di credenziali (art. 615-quater c.p.) o alterazione di dati (art. 635-bis c.p.) per acquisire informazioni sulla concorrenza.
3. Formalizzazione dei flussi informativi tecnici verso l’OdV
È necessario strutturare canali di reporting vincolanti e periodici tra le funzioni tecniche e l’Organismo di Vigilanza. CISO e DPO devono trasmettere all’OdV matrici sintetiche su anomalie rilevate dai sistemi di detection, esiti dei penetration test sui sistemi critici, verifiche condotte sui fornitori software e storico degli incidenti di sicurezza, garantendo che l’organo di controllo mantenga una visione tempestiva sull’andamento dei rischi cyber.
4. Tracciabilità forense dei log e registro degli override
La conformità all’art. 14 dell’AI Act impone la tracciatura sistematica sia degli esiti generati sia delle deroghe apportate dall’operatore. I log di sessione, le istruzioni fornite e le motivazioni dell’override devono essere archiviati su supporti protetti (storage WORM o equivalente), muniti di marcatura temporale e hash crittografico. Tale presidio preserva la catena di custodia digitale e assicura la ricostruibilità della decisione dinanzi all’Autorità Giudiziaria e ai consulenti peritali.
5. Adeguamento del sistema disciplinare e piano di formazione per ruoli
Nel sindacato del giudice penale e nelle valutazioni peritali, la tenuta del MOG viene vagliata partendo proprio dalla sua capacità di generare una reale deterrenza interna. Laddove le regole aziendali non contemplino conseguenze tangibili a fronte della loro violazione, la «colpa di organizzazione» cessa di essere un’ipotesi investigativa da dimostrare e diviene un dato già oggettivamente riscontrabile negli atti di causa. L’apparato sanzionatorio deve pertanto tipizzare espressamente le infrazioni legate all’uso degli strumenti algoritmici: gestione negligente delle credenziali, disattivazione di fattori di autenticazione o presidi perimetrali, ricorso a Shadow AI con dati confidenziali e violazione dei protocolli di supervisione umana (human oversight). Il codice disciplinare deve altresì sanzionare l’ingiustificata mancata partecipazione ai percorsi formativi obbligatori.
In parallelo, la formazione deve articolarsi su base funzionale secondo tre livelli di approfondimento:
- Livello base (generale per dipendenti e collaboratori): focalizzato su igiene digitale, gestione sicura delle credenziali, identificazione delle minacce avanzate (es. spear-phishing potenziato da IA) e procedure di segnalazione interna.
- Livello specialistico (personale tecnico e operativo): dedicato alle figure tecniche, ai gestori di processi operativi e alle funzioni di compliance, con focus su gestione del dato, incident response, testing di sicurezza e audit sulla supply chain digitale.
- Livello apicale (organi di governo e controllo): rivolto ad amministratori, dirigenti e componenti dell’OdV, finalizzato a consolidare la governance strategica del rischio tecnologico, la corretta allocazione delle risorse e i profili di responsabilità ex art. 2086 c.c.
L’efficacia della formazione deve essere verificata attraverso parametri oggettivi (reattività a simulazioni periodiche, qualità delle segnalazioni pervenute all’OdV, conformità nella compilazione delle motivazioni di override). La documentazione di supporto – programmi formativi, registri di frequenza, esiti delle verifiche di apprendimento e provvedimenti disciplinari adottati – deve essere conservata per almeno dieci anni in un archivio protetto e non modificabile, a testimonianza concreta e documentale della diligenza organizzativa dell’ente.
L’effettività come unico presidio esimente
L’integrazione dell’Intelligenza Artificiale nei processi aziendali segna il definitivo superamento della compliance intesa come mero adempimento formale.
Di fronte a sistemi capaci di elaborare decisioni con gradi crescenti di autonomia, il confine tra efficienza operativa e rimproverabilità penale dell’ente si gioca interamente sul terreno dell’effettività dei controlli.
Il Modello Organizzativo ex D.Lgs. 231/2001 non può ridursi a un documento statico custodito negli archivi societari, ma deve operare quale architettura di sicurezza dinamica, capace di dialogare costantemente con le infrastrutture tecnologiche, i flussi di dati e le metriche di supervisione umana. Laddove l’accertamento peritale o l’indagine giudiziaria dovessero disvelare automatismi privi di presidi, registri di audit volatili o una sorveglianza ridotta a mera finzione procedurale, l’ente non disporrà di alcun argine probatorio contro l’addebito della «colpa di organizzazione».
Al contrario, la combinazione tra governance integrata (OdV, CISO, DPO), tracciabilità forense immutabile e reale capacità di intervento critico dell’operatore restituisce all’organizzazione la piena signoria sui propri processi. In ultima analisi, governare il rischio algoritmico significa preservare il primato della consapevolezza umana sulla delega tecnologica, trasformando la conformità normativa da costo di gestione a garanzia primaria di continuità operativa e tenuta legale dell’impresa.
Partecipa alla community