le sfide del diritto

Non possiamo aprire la black box dell’AI. Possiamo almeno governarla?



Indirizzo copiato

Dati, bias, allineamento e responsabilità definiscono il potere esercitato dai modelli. Il diritto può non ricostruire ogni parametro della macchina, ma deve pretendere finalità conoscibili, sorveglianza effettiva e rimedi per chi subisce una decisione

Pubblicato il 7 set 2026

Giacomo Azzolini

RSM Studio Tax Legal & Advisory – Manager;

Emanuele Petrilli

Partner RSM TLA



giustizia e intelligenza artificiale
AI Questions Icon
Chiedi all'AI
Riassumi questo articolo
Approfondisci con altre fonti




L’AI Act impone trasparenza, supervisione umana e capacità di fornire una spiegazione. Ma fino a che punto può essere spiegato e governato un sistema per il quale il percorso che conduce dall’input all’output è ancora oscuro? Il diritto non può guardare nella scatola nera, ma può limitare il potere esercitato attraverso di essa.

AI Act e black box: trasparenza, spiegabilità e governance

Dalla prospettiva del diritto (ma non solo), fra le questioni poste dai sistemi di intelligenza artificiale se ne possono individuare due particolarmente interessanti: la loro piena comprensibilità (da cui discendono poi tematiche connesse alla loro spiegabilità e governabilità) e il rischio che riproducano o amplifichino rappresentazioni parziali della realtà (così propagando pregiudizi o “bias”).

Riguardo alla nostra capacità di comprendere appieno i processi sottesi al funzionamento delle macchine intelligenti: per i creatori stessi dei modelli più evoluti (quelli comunemente definiti “di frontiera”) i procedimenti che portano dall’input a un determinato output sono difficilmente ricostruibili dalla prospettiva meccanicistico-ingegneristica dell’informatica tradizionale.

Su questo presupposto, occorre chiedersi quanto possa essere effettivamente spiegato dei processi delle macchine intelligenti, con risvolti evidenti anche sul tema della loro governabilità. Per le aziende destinatarie in Europa dell’AI Act (Reg. UE n. 2024/1689, come modificato dal Reg. UE 2026/1744), sono riflessioni che possono indirizzare verso un sistema di governance vero, cioè contestualmente efficace e sostenibile. Dalla prospettiva di chi, all’interno dell’azienda, se ne dovrà occupare, è un lavoro che potrebbe dimostrarsi il più complesso affrontato sino ad ora.

L’ulteriore tematica attiene al rapporto tra l’intelligenza artificiale e la realtà. La formula di Alfred Korzybski secondo cui «la mappa non è il territorio» appare particolarmente adatta a descriverlo. I modelli non conoscono direttamente il mondo: apprendono da una sua rappresentazione costruita attraverso dati, classificazioni, testi, immagini, annotazioni e giudizi umani. In sostanza, non hanno accesso diretto alla realtà oggettiva del mondo, ma solo alla realtà intersoggettiva che è creata da chi si è occupato di coltivare la macchina stessa.

Un’ulteriore consapevolezza, questa, necessaria per poter meglio affrontare la governance della macchina. In pratica, significa avere cura di scegliere il giusto fornitore del modello, riflettere sugli input che gli vengono forniti, saper dubitare degli output interpretandoli sempre considerando “il contesto” (presente e passato).

Dalla macchina intelligente alla black box dell’AI Act

L’idea di costruire macchine capaci di manifestare un comportamento intelligente precede di molti decenni gli attuali modelli generativi. Nel rapporto Intelligent Machinery, scritto nel 1948 per il National Physical Laboratory, Alan Turing si chiedeva espressamente se fosse possibile realizzare macchine capaci di comportamenti intelligenti. Tra le ipotesi considerate vi era anche quella di costruire macchine in grado di modificare la propria organizzazione e apprendere attraverso un processo paragonabile, con tutte le necessarie cautele, all’educazione di un bambino.

Da allora, tuttavia, il linguaggio utilizzato per descrivere queste tecnologie ha continuato a creare equivoci. Definire un sistema «intelligente», attribuirgli la capacità di «pensare», «ragionare», «comprendere» o «decidere» non rappresenta mai una scelta puramente descrittiva. Si tratta di termini che, fino ad oggi, hanno trascinato con sé concetti afferenti all’esperienza umana. Luciano Floridi ha descritto questo fenomeno come una forma di conceptual borrowing: le discipline emergenti costruiscono il proprio vocabolario prendendo in prestito concetti da ambiti vicini. Richiamando un’intuizione di Carl Schmitt sulla derivazione teologica di molti concetti politici moderni, Floridi dimostra come l’informatica abbia progressivamente antropomorfizzato le macchine. I recenti sviluppi tecnologici, peraltro, portano ad osservare che i modelli più avanzati manifestano capacità che, in determinati contesti, appaiono funzionalmente assimilabili al ragionamento, alla pianificazione e alla comprensione. Ciò al punto che la semantica utilizzata per descrivere gli esseri viventi appare sempre più utile a descrivere gli avanzamenti di questa res, mentre il linguaggio dell’informatica è sempre più limitato. Se all’inizio, per seguire il pensiero di Luciano Floridi, l’antropomorfizzazione della macchina è avvenuta per mancanza di una terminologia specifica e più adeguata, con il proseguire degli avanzamenti tecnologici l’utilizzo di determinati termini appare sempre più sostenuto dalle capacità che queste macchine dimostrano.

Tutta questa premessa serve per dire – speriamo in maniera interessante – una cosa semplice: la realtà che il diritto sta provando a gestire e regolare è molto più complessa di un’app sullo smartphone.

Come si forma la black box nei sistemi di intelligenza artificiale

Per comprendere il problema della black box (e di ciò che ne discende) occorre partire, in forma necessariamente semplificata, dal funzionamento del machine learning. Si può immaginare una rete neurale come un mazzo di carte. Il mazzo rappresenta l’intero modello, mentre ciascuna carta rappresenta uno dei suoi livelli, o layer. Ogni carta riceve una rappresentazione dell’informazione dalla carta precedente, la trasforma e la trasmette alla successiva.

Durante l’addestramento, il sistema analizza enormi quantità di dati e modifica progressivamente i pesi delle connessioni interne. Non gli viene necessariamente indicata una regola esplicita per ogni problema. L’intelligenza artificiale “apprende” in autonomia, mediante meccanismi di associazione da cui discendono inferenze che non sono programmate. Il sistema diventa così complesso che – è stato provato – riesce a creare rappresentazioni astratte dei concetti appresi, risultando estremamente difficile ricostruire di volta in volta perché una determinata combinazione di input abbia prodotto un determinato output sulla base di criteri meccanicistici.

E’ così che si forma la “black box”, la scatola nera che tiene fuori l’osservatore al quale resta solo la possibilità di guardare cosa entra nella scatola e cosa ne esce, senza poter comprendere la “magia” che avviene all’interno.

Dai pappagalli stocastici alle strutture interne

Durante i primi anni di diffusione dei moderni modelli generativi, questa difficoltà di comprensione è stata talvolta sminuita: nel 2021 Emily Bender, Timnit Gebru, Angelina McMillan-Major e Margaret Mitchell coniarono la celebre immagine dei «pappagalli stocastici» per mettere in discussione l’equivalenza tra la capacità di produrre linguaggio plausibile e la comprensione del suo significato. Secondo questa prospettiva, il modello non comprenderebbe il mondo, ma produrrebbe sequenze linguistiche plausibili sulla base di regolarità statistiche apprese.

La risposta corretta sarebbe raggiunta attraverso la capacità di calcolare quale parola abbia maggiore probabilità di seguire quelle precedenti; in sostanza, i modelli di AI non arriverebbero ad un risultato attraverso una forma di conoscenza ma, piuttosto, sulla base di meri calcoli statistici.

Tuttavia, come anticipato, la ricerca sull’interpretabilità ha mostrato che le reti neurali sviluppano rappresentazioni interne di concetti, relazioni, caratteristiche e comportamenti che non coincidono con singole parole. In altre parole, “statistico” non significa necessariamente privo di strutture interne astratte e interpretabili. Nel 2024 Anthropic ha dichiarato di avere identificato milioni di caratteristiche interpretabili all’interno di un modello Claude, associate a concetti che possono manifestarsi in lingue e contesti differenti. Questa complessità ha portato (coloro che sono più all’avanguardia in questi campi) ad approcciare la spiegabilità della macchina intelligente sempre meno dalla prospettiva meccanicistica, che tipicamente procede attraverso ingegneria inversa, e sempre più ricorrendo ad un approccio top-down: si osserva il comportamento del sistema, lo si sottopone a test, lo si espone a dilemmi, si studiano le sue reazioni e si cerca di individuare disposizioni relativamente stabili; non si ricerca la giustificazione del comportamento o di una decisione partendo dal singolo neurone, ma si cerca di “comprenderlo” o “giustificarlo” sulla base di criteri che sono sempre più psicologici piuttosto che informatici.

Il carattere dei modelli e il governo del comportamento

Il lavoro di Amanda Askell presso Anthropic è indicativo di questa trasformazione. Nel descrivere l’addestramento del “carattere” di Claude, Anthropic utilizza concetti come curiosità, apertura mentale, prudenza, sincerità e capacità di considerare più punti di vista. L’azienda precisa che i modelli non sono persone, ma considera le loro disposizioni comportamentali un elemento centrale dell’allineamento, perché tali disposizioni incidono sul modo in cui essi reagiscono a situazioni nuove e imprevedibili. Questa impostazione non implica necessariamente che la macchina possieda un’autentica personalità o un’intenzione soggettiva. Indica però che, per governarne il comportamento, gli sviluppatori ricorrono sempre più spesso a metodi che ricordano la psicologia comportamentale e morale: interrogare il sistema, osservarne le risposte, identificare inclinazioni, sottoporlo a scenari avversi e tentare di stabilizzarne il “carattere”.

AI Act e spiegabilità della black box

Questa complessità ci ha portato a riflettere su cosa debba intendersi – dalla prospettiva sia del diritto astratto che applicato (cioè da quella di un ipotetico giudice) – con il concetto di spiegabilità della macchina (o dell’algoritmo, come qualcuno, semplificando, preferisce dire).

Le quattro forme della spiegazione

Astrattamente, la spiegazione sarebbe possibile su quattro distinte forme. Una prima forma di spiegazione sarebbe quella meccanicistica: quali parametri, neuroni artificiali e circuiti hanno causato un determinato output? È la spiegazione più coerente con la consapevolezza che si sta analizzando un software, quella più vicina all’idea di aprire integralmente la scatola nera. È anche quella più difficile da ottenere e, in ogni caso, sarebbe la meno comprensibile per il destinatario (il soggetto tutelato dal diritto).

Una seconda forma è la spiegazione funzionale: quali caratteristiche dell’input hanno influito maggiormente sul risultato? Quale variazione dei dati avrebbe potuto determinare una risposta differente? Questa spiegazione non ricostruisce ogni passaggio interno, ma tenta di comprendere la relazione tra gli elementi rilevanti e l’output.

Una terza forma è la spiegazione procedurale: chi ha scelto il sistema, per quale finalità, con quali dati, quali test, quali soglie di affidabilità e quali controlli umani? In questo caso, l’oggetto della spiegazione non è soltanto il modello, ma l’intero processo organizzativo nel quale esso è stato inserito.

Infine, dovrebbe esserci una spiegazione giuridica soggettiva: quale ruolo ha svolto la macchina nella decisione che ha inciso sulla persona? Quali sono stati gli elementi principali della decisione? Chi ha assunto la responsabilità finale e attraverso quali strumenti è possibile contestare il risultato?

Trasparenza, sorveglianza umana e diritto alla spiegazione

Per analizzare quale di queste spiegazioni può essere più utile per un ipotetico destinatario, dobbiamo ora spostarci sulla norma, l’AI Act. L’articolo 13 stabilisce che i sistemi ad alto rischio devono essere sufficientemente trasparenti da consentire ai deployer di interpretarne l’output e utilizzarlo appropriatamente. Le istruzioni – messe a disposizione dal provider, su cui grava l’obbligo di trasparenza, al deployer – devono fornire informazioni sulle caratteristiche del sistema, sulle capacità e sui limiti delle prestazioni, sul livello di accuratezza, sui rischi conosciuti o prevedibili, sulle caratteristiche dei dati e, quando applicabile, sugli strumenti disponibili per spiegare e interpretare l’output.

Analizzando l’art. 13 dell’AI Act dobbiamo chiederci se queste informazioni possano essere sufficienti al deployer per comprendere tanto quanto serve poi a lui per poter a sua volta spiegare. Una volta chiarito il contenuto dell’obbligo informativo, occorre interrogarsi anche sulla forma in cui tali informazioni devono essere rese: potrebbe essere qui una prima chiave di volta.

Proseguendo con l’analisi della norma, scopriamo che l’articolo 14 introduce il principio della sorveglianza umana, fondato anch’esso sulla necessità che le persone incaricate del controllo debbano poter comprendere capacità e limiti del sistema, individuare anomalie, interpretare correttamente gli output, decidere di non utilizzarli, ignorarli o ribaltarli e, quando necessario, interrompere il funzionamento del sistema. Il presupposto del governo, anche a livello individuale e prima che si possa parlare di metodo, è la conoscenza.

Abbiamo poi l’art. 86 dell’AI Act, che riconosce alla persona interessata il diritto di ottenere dal deployer spiegazioni chiare e significative sul ruolo del sistema nella procedura decisionale e sugli elementi principali della decisione adottata. Questo diritto (che, comunque, non è generale ma limitato a specifiche situazioni) fa in modo che l’interessato sia posto nella posizione di poter comprendere il ruolo svolto dall’AI e gli elementi principali della decisione concreta. L’obiettivo dell’art. 86, quindi, non è aprire la scatola nera quanto, piuttosto, rendere contestabile la decisione uscita dalla scatola.

Black box e governance nell’AI Act

Considerando le premesse e l’analisi della norma, possiamo a questo punto individuare tre concetti: (i) il concetto di <spiegabilità>, inteso come riferito alle capacità tecnico-funzionali del sistema, il cui governo è affidato all’art. 13 dell’AI Act; (ii) il concetto di <spiegazione>, da intendersi come il diritto che il destinatario può ottenere dal responsabile del sistema, istituito dall’art. 86 dell’AI Act; (iii) il concetto di <comprensione>, inteso come l’effettivo risultato cognitivo prodotto nel destinatario per effetto della spiegazione del deployer, nel deployer stesso per effetto delle informazioni fornite dal provider nonché nel soggetto incaricato della sorveglianza umana ai sensi dell’art. 14 dell’AI Act. Che si sia verificata <comprensione>, chiaramente, non può essere garantito da una norma e quanto previsto dagli artt. 13 e 86 dell’AI Act non può che costituire presupposto necessario ma non sufficiente, rimandando alla sostanza (la concreta capacità di governo del responsabile della macchina) l’effettivo soddisfacimento di quello che rappresenta, poi, la vera esigenza della norma.

Per arrivare a questo risultato non banale, il regolamento non fonda la governance su un’unica promessa di completa trasparenza, ma su una combinazione di strumenti: gestione dei rischi, qualità dei dati, documentazione tecnica, registrazione degli eventi, informazioni ai deployer, sorveglianza umana, accuratezza, robustezza, valutazioni d’impatto e monitoraggio successivo all’immissione sul mercato.

Oltre agli artt. 13 e 86, infatti, l’AI Act individua ulteriori presidi. In particolare, sono rilevanti gli articoli 9 e 26. Il primo impone ai provider un sistema di gestione dei rischi continuo e iterativo lungo l’intero ciclo di vita del sistema ad alto rischio. Il secondo richiede ai deployer di adottare misure tecniche e organizzative appropriate, affidare la supervisione a persone competenti, controllare la qualità degli input, monitorare il funzionamento, conservare i log e sospendere l’uso quando emergano rischi o incidenti.

La governabilità, pertanto, non coincide con un singolo controllo umano collocato alla fine del processo. È un sistema organizzativo composto da valutazioni preventive, documentazione, attribuzione di ruoli, controllo degli input, monitoraggio, tracciabilità e gestione delle anomalie.

Questo sistema permette una valutazione sociotecnica nel suo complesso: la macchina, l’organizzazione, gli operatori umani, i dati, il contesto e le persone sulle quali ricadono gli effetti. È questa la risposta più realistica al problema della black box. Il diritto può non essere in grado di spiegare ogni parametro del modello, ma può pretendere che siano conoscibili le finalità, i limiti, i dati utilizzati, le procedure di selezione, le responsabilità, i controlli e i rimedi.

Black box, bias e potere nell’AI Act

Resta, tuttavia, il dubbio evocato all’inizio (che sarebbe bene mantenere sempre alimentato): questo sistema è sufficiente quando provider e deployer dipendono da modelli così complessi da non essere pienamente compresi neppure da chi li ha sviluppati?

Il rischio è che la governance si trasformi in una serie di adempimenti documentali costruiti intorno a un nucleo tecnico che rimane fuori dalla reale capacità di controllo dell’organizzazione. Una valutazione dei rischi è utile soltanto se chi la conduce dispone delle informazioni e delle competenze necessarie. La sorveglianza umana è effettiva soltanto se l’operatore può realmente contestare la macchina. La documentazione è significativa soltanto se descrive il comportamento concreto del sistema e non si limita a formule standardizzate.

I bias nei dati e nelle scelte progettuali

La black box, tuttavia, non riguarda soltanto l’opacità del calcolo. Riguarda anche l’opacità delle scelte normative e valoriali incorporate nei dati, negli obiettivi da ottimizzare, nelle soglie e nei processi di allineamento. È sotto questo profilo che il problema diventa ancora più evidente quando si considerano i bias.

I sistemi di intelligenza artificiale non vengono addestrati sulla realtà nella sua interezza, ma su dati che rappresentano soltanto una parte di essa. Quei dati sono selezionati, raccolti, classificati, annotati e organizzati sulla base di scelte umane. Il pregiudizio non entra nel sistema soltanto attraverso dati apertamente discriminatori. Può annidarsi nella definizione dell’obiettivo da ottimizzare, nella scelta delle categorie, nell’utilizzo di una variabile come indicatore indiretto di un’altra, nella composizione del campione, nei dati mancanti, nelle soglie decisionali o nel contesto concreto di utilizzo.

Un sistema di selezione del personale può essere addestrato su decisioni storiche apparentemente neutrali, ma riflettere le diseguaglianze del mercato del lavoro dal quale quei dati provengono. Un sistema di valutazione del rischio può utilizzare il luogo di residenza come indicatore di affidabilità e finire per riprodurre indirettamente divisioni economiche o razziali. Un modello linguistico può rappresentare maggiormente le culture, le lingue e le opinioni più presenti nei dati, marginalizzando prospettive minoritarie.

L’articolo 10 dell’AI Act affronta il tema attraverso gli obblighi di data governance applicabili ai sistemi ad alto rischio. La disposizione non si limita a richiedere dati pertinenti e sufficientemente rappresentativi, ma prende in considerazione le scelte progettuali, l’origine dei dati, le attività di annotazione e pulizia, le assunzioni su ciò che i dati dovrebbero rappresentare, le lacune informative e i possibili bias capaci di danneggiare la salute, la sicurezza o i diritti fondamentali o di determinare discriminazioni vietate.

Il regolamento coglie così un punto importante: i dati non sono una materia prima naturale e incontaminata. Sono il risultato di decisioni, cioè sempre frutto di un’attività di trasformazione operata, direttamente o indirettamente, dall’uomo. Mutuando una categoria resa popolare da Yuval Noah Harari, una parte rilevante di tali dati descrive realtà intersoggettive, cioè comunicate alla macchina dall’uomo; più in generale, ogni dato diviene utilizzabile dal sistema soltanto attraverso scelte di selezione, misurazione, classificazione e contestualizzazione.

Inoltre, dovremmo essere consapevoli che neppure dati perfettamente rappresentativi potrebbero eliminare ogni forma di bias. Per decidere quali errori siano accettabili, quali interessi debbano prevalere e quale equilibrio debba essere perseguito occorre formulare giudizi di valore. Un sistema può essere statisticamente accurato e socialmente ingiusto. Può trattare tutti secondo la stessa regola e, proprio per questo, produrre effetti sproporzionati su determinati gruppi. Può migliorare l’efficienza complessiva sacrificando sistematicamente gli interessi di una minoranza.

La questione non è quindi soltanto correggere una mappa inaccurata. È decidere quale mappa vogliamo costruire, quali elementi debba rappresentare e quali distorsioni siamo disposti ad accettare. Significa assumere e mantenere la responsabilità della mappa che si è scelto di costruire.

Stiamo parlando di potere.

Chi orienta i modelli e i loro valori

Nell’enciclica Magnifica Humanitas, pubblicata nel maggio 2026 e dedicata alla tutela della persona nell’epoca dell’intelligenza artificiale, Leone XIV afferma che la tecnologia non è mai neutrale, perché assume le caratteristiche di chi la concepisce, finanzia, regola e utilizza. L’enciclica osserva inoltre che i principali motori dello sviluppo tecnologico sono oggi soggetti privati, spesso transnazionali, dotati di risorse e capacità di intervento superiori a quelle di molti governi.

Il richiamo è rilevante anche al di fuori di una prospettiva cattolico-cristiana. Il problema della neutralità dei modelli non riguarda soltanto la loro architettura tecnica, ma la struttura economica e politica nella quale vengono sviluppati. Torna, ancora, il contesto.

I modelli più potenti richiedono enormi quantità di dati, capacità computazionale, infrastrutture e capitale. Ciò concentra il potere di costruire e orientare queste tecnologie nelle mani di un numero limitato di soggetti. Sono tali soggetti a selezionare i dati, definire le politiche di utilizzo, stabilire i processi di allineamento, scegliere quali comportamenti debbano essere incoraggiati o inibiti e determinare quali informazioni siano accessibili ai clienti, alle autorità e ai ricercatori.

Lo stesso lavoro sul “carattere” dei modelli rende visibile questo punto. Addestrare una macchina a essere prudente, utile, sincera, imparziale o rispettosa significa necessariamente decidere che cosa debbano significare prudenza, utilità, sincerità, imparzialità e rispetto.

Non esiste un allineamento con i «valori umani» in astratto. Esiste un allineamento con un insieme di valori selezionati, interpretati e ordinati da qualcuno. L’enciclica formula il problema in termini particolarmente netti: «Non serve un’IA più morale, se questa morale è decisa da pochi». Da qui la richiesta di regole robuste, controlli indipendenti, utenti informati e istituzioni politiche che non abdichino alle proprie responsabilità.

L’AI Act cerca di distribuire gli obblighi lungo la catena del valore. Tuttavia, il regolamento non elimina la dipendenza tecnica ed economica dei deployer europei da un ristretto numero di provider globali.

Rimangono quindi aperti almeno quattro problemi anche giuridici. Il primo riguarda l’effettivo accesso alle informazioni necessarie per verificare e contestare il funzionamento dei modelli. Il secondo riguarda l’attribuzione della responsabilità quando il danno deriva dall’interazione tra modello generale, personalizzazioni del provider, dati forniti dal deployer e decisione finale dell’operatore umano.

Il terzo riguarda la concentrazione del mercato e la capacità di pochi soggetti privati di fissare standard tecnologici, culturali ed etici destinati a essere incorporati in una quantità crescente di servizi. Il quarto riguarda la legittimazione democratica delle scelte di allineamento. Quando un modello viene utilizzato nell’istruzione, nella sanità, nel lavoro o nei servizi pubblici, i valori incorporati nel sistema non possono essere considerati una semplice caratteristica del prodotto.

AI Act, black box e contestabilità del potere

Su questa complessità, dalla prospettiva del cittadino, è fondamentale volere e potere comprendere l’intersezione fra la propria vita, i propri diritti e gli effetti che il ricorso a sistemi di IA produce sulla propria vita e sui propri diritti. Bisognerà fare in modo che le informazioni o, per meglio dire, le spiegazioni, siano chiarissime: quale funzione ha svolto il sistema, quali dati e criteri hanno inciso sul risultato, quali sono i suoi limiti, chi ha assunto la decisione finale, chi ha valutato o corretto l’output e, soprattutto, attraverso quali strumenti è possibile contestare la decisione e, se necessario, l’adeguatezza della spiegazione.

Ciò, peraltro, in linea con quanto stabilito dalla Corte di Giustizia nella decisione per la causa Dun & Bradstreet Austria del 27 febbraio 2025, per quanto l’ambito fosse diverso e attenesse al GDPR.

Analogamente, ribaltando la prospettiva, governare un sistema non significa necessariamente comprenderne ogni operazione interna. Significa stabilire finalità legittime, limiti d’uso, livelli di affidabilità, responsabilità, controlli, procedure di escalation e condizioni nelle quali il sistema debba essere sospeso. Contrastare i bias non significa promettere una macchina perfettamente neutrale. Significa rendere visibili e discutibili le scelte attraverso le quali una determinata rappresentazione della realtà viene trasformata in decisione. Significa conoscere (e quindi, a monte, aver compreso) il contesto che ha creato e coltivato la macchina, per saperne correttamente interpretare gli output.

Il vero obiettivo, pertanto, non dovrebbe essere la completa intelligibilità della macchina, che potrebbe rimanere almeno in parte irraggiungibile. Piuttosto, l’obiettivo è la contestabilità del potere esercitato attraverso di essa.

L’AI Act sembra muoversi in questa direzione quando combina trasparenza funzionale, gestione dei rischi, data governance, sorveglianza umana, tracciabilità, valutazione d’impatto e rimedi individuali. Resta da verificare se tale architettura riuscirà a produrre una governance sostanziale oppure si limiterà a costruire procedure formali intorno a sistemi che continuano a essere controllati, conosciuti e orientati soltanto da pochi soggetti.

In sostanza, la sfida non è soltanto normativa: consiste nel trasformare le regole in una capacità effettiva di comprendere, contestare e governare il potere esercitato attraverso la macchina.

Partecipa alla community

guest

0 Commenti
Più recenti
Più votati
Inline Feedback
Vedi tutti i commenti

Articoli correlati

0
Lascia un commento, la tua opinione conta.x