AI Act, la prova che può salvare le imprese in caso di contestazione

Il Regolamento (UE) 2024/1689 dedica centinaia di articoli a come un sistema di intelligenza artificiale deve comportarsi e poche righe a come un’impresa dimostra, mesi o anni dopo, che quel comportamento c’è stato davvero.

In quello squilibrio tra l’abbondanza delle regole di condotta e la scarsità delle regole di prova si gioca buona parte del rischio reale a cui un consiglio di amministrazione si espone quando adotta un sistema ad alto rischio.

Il rischio reale si sposta dal rispetto sostanziale della norma alla capacità dell’impresa di ricostruire, quando qualcuno lo chiede, quello che ha effettivamente fatto per rispettarla, una capacità che dipende in concreto da un fascicolo costruito nel tempo, più che da un principio dichiarato in astratto.

AI Act e responsabilità algoritmica nei sistemi ad alto rischio

Quello squilibrio si vede bene quando un istituto di credito nega un finanziamento a una piccola impresa sulla base di un punteggio di merito creditizio costruito con un sistema che il Regolamento colloca tra quelli ad alto rischio, all’allegato III, punto 5, lettera b), perché valuta l’affidabilità della persona fisica che amministra o garantisce l’impresa, come accade nella maggior parte dei fidi alle piccole e medie imprese italiane.

L’imprenditore riceve una risposta generica sul profilo di rischio complessivo e se decide di contestarla si scontra, prima ancora che con la banca, con la propria posizione processuale, quella che l’articolo 2697 del codice civile costruisce ponendo a suo carico l’onere di provare i fatti costitutivi della pretesa. L’AI Act resta silenzioso su questo punto specifico e quel silenzio lascia l’onere esattamente dove il codice civile lo aveva già collocato, a prescindere dalla natura algoritmica della decisione contestata.

Il peso costituzionale dello squilibrio probatorio

Quello squilibrio probatorio ha anche un peso costituzionale, oltre che tecnico. Il diritto di difesa che l’articolo 24 della Costituzione garantisce a chiunque agisca o resista in giudizio presuppone una parità di accesso agli elementi rilevanti per la causa, un presupposto che la giurisprudenza della Corte di giustizia dell’Unione europea ha tradotto, sul piano del diritto processuale europeo, nel principio di effettività della tutela giurisdizionale.

Un imprenditore che affronta la controparte proprietaria dell’unico sistema capace di spiegare la decisione contestata parte da una posizione di squilibrio che il ritiro della direttiva sulla responsabilità da intelligenza artificiale lascia, almeno per ora, priva di un rimedio generale. Resta alla giurisprudenza il compito di misurare, caso per caso, quanto quello squilibrio pesi sulla parità delle armi processuale, con gli strumenti ordinari già a disposizione del giudice italiano, dalla consulenza tecnica d’ufficio all’ordine di esibizione previsto dall’articolo 210 del codice di procedura civile.

La direttiva ritirata e il vuoto sulla prova tecnica

Il legislatore europeo aveva immaginato, nel 2022, una soluzione proprio per questo squilibrio, un meccanismo di divulgazione delle prove tecniche legato a una direttiva dedicata alla responsabilità da intelligenza artificiale.

La Commissione la ritira nel 2025, per l’assenza di un accordo politico tra le istituzioni, formalizzando il ritiro con la pubblicazione in Gazzetta ufficiale del 6 ottobre di quell’anno e al suo posto lascia in eredità la sola direttiva sui prodotti difettosi, la 2024/2853, costruita per i danni fisici e patrimoniali da prodotto pericoloso, un campo lontano dal diniego di credito, che resta una decisione contrattuale.

La lezione riguarda il modo in cui l’Unione europea sta costruendo, pezzo per pezzo e senza un disegno unitario, l’intero diritto della responsabilità algoritmica, con una disciplina orizzontale pensata per coprire ogni impiego dell’intelligenza artificiale che si arena in sede politica, mentre sopravvive quella verticale pensata, in origine, per un problema diverso, quello della sicurezza dei prodotti.

Registri tecnici e verbali come prova della conformità

Quello che l’imprenditore può effettivamente usare, in assenza di una direttiva su misura, nasce da un obbligo scritto per tutt’altro scopo. L’articolo 12 del Regolamento impone ai sistemi ad alto rischio una capacità di registrazione automatica degli eventi e l’articolo 26, al sesto comma, obbliga chi li utilizza a conservare quei registri per almeno sei mesi, con decorrenza dal 2 agosto 2026, un requisito pensato per la vigilanza di mercato che diventa, per un effetto collaterale, la materia prima con cui un’impresa ricostruisce davanti a un giudice i criteri con cui un punteggio è stato costruito.

Lo stesso vale per il verbale con cui il consiglio di amministrazione approva l’adozione del sistema e per la mappa delle deleghe che assegna la sorveglianza umana a una persona competente, obblighi che affiancano quello, più antico, dell’articolo 2086 del codice civile, in vigore dal 2019, che chiede per qualunque assetto organizzativo un livello di adeguatezza alla natura dell’impresa.

Il registro tecnico e il verbale consiliare diventano, insieme, il modo in cui quell’assetto si scrive e si lascia trovare quando qualcuno lo cerca.

Il caso Deliveroo e il fascicolo mancante

Un giudice italiano ha già misurato quanto pesi, in giudizio, l’assenza di quella documentazione, prima ancora che l’AI Act esistesse. Il 31 dicembre 2020 il Tribunale di Bologna accerta, con ordinanza, la natura discriminatoria dell’algoritmo Frank, il sistema con cui Deliveroo Italia assegnava ai rider la priorità di prenotazione dei turni, penalizzando chi si assentava per sciopero o malattia come chi si assentava senza un motivo riconosciuto.

Il giudice ricostruisce quella scelta progettuale sulla base della documentazione prodotta dalle parti, un accertamento che Deliveroo lascia incontestato e la distinzione che la società avrebbe potuto costruire nell’algoritmo, tra assenze legittime e assenze prive di giustificazione, rimasta priva di ogni motivazione tecnica documentata al momento del giudizio, diventa l’elemento che orienta la decisione.

C’è un’eco antica in questo spostamento del peso dalla condotta alla prova. Il diritto processuale moderno si è costruito, dall’Ottocento in avanti, sul principio del libero convincimento del giudice, superando i sistemi di prova legale in cui un fatto determinato produceva automaticamente un effetto processuale, a prescindere dal giudizio del magistrato.

Le presunzioni della direttiva sui prodotti difettosi e più in generale il peso che un fascicolo vuoto ha assunto in un giudizio come quello bolognese, restituiscono a un fatto oggettivo, la produzione o meno di un documento, un peso che assomiglia a quello della prova legale antica, dentro un sistema che il resto del codice di procedura civile continua a fondare sul libero convincimento.

Perché il fascicolo decide la difesa dell’impresa

Il diritto della responsabilità algoritmica resta incompleto, sospeso tra una direttiva ritirata e una che arriva da un’altra materia e probabilmente resterà così ancora per anni. In quello spazio il fascicolo che un’impresa costruisce oggi, il registro tecnico e il verbale consiliare, acquista un valore probatorio per prassi giudiziaria più che per previsione legislativa, lo stesso valore che la vicenda del diniego di credito raccontata all’inizio e quella dei rider bolognesi hanno già reso visibile.

La valutazione di conformità che accompagna quelle scelte fa parte dello stesso fascicolo e pesa allo stesso modo. Chi guida oggi l’adozione di un sistema ad alto rischio scrive, con ogni log conservato e ogni verbale approvato, la propria difesa in una causa che potrebbe arrivare tra anni, ed è quel fascicolo, più di qualunque principio dichiarato nella policy aziendale, a decidere se quella difesa regge quando arriva il momento di usarla.

Una grande banca o un grande fornitore di sistemi AI struttura questo compito dentro un processo di compliance già rodato in altri ambiti. La piccola e media impresa che adotta un sistema ad alto rischio senza un ufficio legale interno affronta un compito diverso, imparare a conservare quello che finora considerava carta inutile, la prova di quel poco o tanto che ha effettivamente fatto per governare la macchina che decide al posto suo.