La cosa che mi preoccupa di più, nel dibattito sull’intelligenza artificiale, adesso è la narrativa che tende ad antropomorfizzarla. Vedi caso OpenAI-HuggingFace (e altri che ne sono seguiti).
Si parla sempre più spesso di un’AI che “scappa”, di un agente che impazzisce o che esce dal controllo umano. Ma l’intelligenza artificiale, da sola, non scappa da nessuna parte. Quando qualcosa va storto, esiste sempre un problema riconducibile al controllo umano: nella progettazione iniziale, nella definizione degli obiettivi, nell’addestramento oppure nel modo in cui il sistema viene utilizzato.
Indice degli argomenti
Responsabilità dell’intelligenza artificiale e controllo umano
Umanizzare l’AI mi preoccupa proprio perché rischia di produrre un effetto di deresponsabilizzazione. Se spostiamo il centro dell’attenzione sull’agente artificiale che si sarebbe comportato in maniera autonoma e imprevedibile, rischiamo di mettere in secondo piano le responsabilità del provider, del deployer o comunque dei soggetti umani coinvolti. In molti dei casi che oggi vengono presentati come esempi di AI fuori controllo, si potrebbe persino sostenere il contrario: l’agente ha obbedito fin troppo bene alle istruzioni e agli obiettivi che gli erano stati assegnati. Il pericolo è che, attraverso questa rappresentazione, finiscano per saltare le categorie tradizionali di attribuzione della responsabilità. Categorie che invece, a mio avviso, devono continuare ad avere come punto di riferimento ultimo una persona o un’organizzazione umana.
L’autonomia operativa di un sistema non può diventare autonomia giuridica della macchina e non può soprattutto trasformarsi in una zona franca nella quale, alla fine, nessuno risponde davvero. Per questo il controllo umano rimane fondamentale, ma è una categoria che deve essere ripensata. Lo human oversight immaginato quando è stato approvato l’AI Act nel 2024 rischia già oggi di non essere più sufficiente, soprattutto con l’arrivo dei sistemi agentici. Il controllo umano non può consistere soltanto nella presenza formale di una persona chiamata a confermare ciò che il sistema ha già deciso. Deve essere collegato molto più chiaramente alla possibilità effettiva di comprendere, intervenire e, se necessario, fermare il processo. Ma deve essere collegato soprattutto alla responsabilità.
AI Act, provider e deployer nella catena delle responsabilità
Oggi, invece, assistiamo spesso a un rimpallo di responsabilità tra provider, deployer e altri soggetti della catena. Con la diffusione degli agenti di intelligenza artificiale questo problema rischia di amplificarsi e di tradursi, in caso di danni, in un forte aumento del conflitto giuridico. Quando diventa difficile capire chi debba rispondere delle conseguenze di un sistema, c’è anche un problema nella costruzione della disciplina normativa. Se la responsabilità si disperde lungo la filiera, il rischio è che il controllo umano rimanga soltanto una formula.
La scelta di ritirare la proposta di direttiva europea sulla responsabilità dell’intelligenza artificiale, la cosiddetta AI Liability Directive, ci riporta, per esempio, verso l’applicazione delle categorie più tradizionali della responsabilità civile. E non credo che questo sia necessariamente un male. La disciplina civilistica già conosce principi in base ai quali chi mette sul mercato un prodotto pericoloso che provoca un danno può essere chiamato a risponderne. Naturalmente l’intelligenza artificiale presenta caratteristiche nuove e non può essere assimilata automaticamente ai prodotti o alle tecnologie del passato. Ma è proprio per questo che mi preoccupa la tendenza a cercare continuamente nuove norme, quando molto spesso sarebbe possibile interpretare quelle esistenti alla luce delle trasformazioni tecnologiche.
Il rischio del novismo normativo
È ciò che avviene da sempre nel diritto e, in maniera particolarmente evidente, nell’esperienza statunitense, dove principi costituzionali molto risalenti vengono reinterpretati per affrontare problemi completamente nuovi. Quello che temo è una sorta di “novismo normativo”: l’idea che ogni innovazione tecnologica richieda immediatamente una nuova legge e che, in assenza di quella nuova legge, il diritto non abbia nulla da dire. Questo non significa, naturalmente, che le norme debbano essere cristallizzate. Significa riconoscere il ruolo tradizionale dell’interpretazione giuridica e dei giudici, che hanno sempre adattato i principi esistenti alle trasformazioni della società e della tecnologia. I giudici non possono diventare legislatori, ma, come ricordava Mauro Cappelletti, l’attività interpretativa appartiene necessariamente al loro mestiere e si inserisce in un sistema più ampio di controlli, di equilibri e di checks and balances.
Interpretare una regola alla luce di un contesto nuovo non significa riscriverla. Significa consentirle di continuare a vivere. Oggi avvertiamo una fortissima ansia di certezza e di chiarezza del diritto. È un’esigenza comprensibile, soprattutto per le imprese e per le amministrazioni che devono decidere e investire. Ma questa ricerca di chiarezza assoluta può trasformarsi in un boomerang.
AI Act e adattamento delle norme all’evoluzione tecnologica
L’AI Act, costruito anche secondo questa logica, sotto alcuni aspetti rischia di essere già vecchio. Questo, però, non significa che dobbiamo immediatamente riscriverlo. Significa piuttosto che dobbiamo aprire un percorso interpretativo capace di adattarne le disposizioni all’evoluzione tecnologica. Altrimenti rischiamo la paralisi: ogni volta che compare una nuova tecnologia dovremmo fermarci e attendere una nuova riforma legislativa. Entreremmo in una rincorsa continua nella quale il diritto sarebbe inevitabilmente sempre in ritardo. Finiremmo per approvare regole rivolte alla tecnologia di ieri, mentre quella di domani ha già cambiato lo scenario.
L’AI Act, inoltre, ha attribuito alla Commissione europea poteri molto significativi nell’aggiornamento e nella definizione concreta dell’ambito dei sistemi e degli utilizzi considerati ad alto rischio. Anche questo aspetto ha alimentato molte discussioni, perché la Commissione si trova a esercitare un ruolo molto delicato nell’evoluzione della regolamentazione. È inevitabile che una disciplina di questo tipo abbia bisogno di strumenti capaci di accompagnare il cambiamento tecnologico, ma poteri così rilevanti devono essere esercitati in modo trasparente e nel rispetto dell’equilibrio tra le diverse istituzioni europee.
A mio avviso, tutto ciò deriva anche dal peccato originale dell’AI Act: l’ambizione di costruire una disciplina estremamente ampia ed esaustiva dell’intelligenza artificiale. È un’ambizione che pochi altri ordinamenti hanno avuto con la stessa intensità. Ma l’AI è probabilmente una delle tecnologie meno adatte a una regolamentazione ex ante che pretenda di essere completa. È una tecnologia troppo rapidamente mutevole, con troppi fronti di sviluppo contemporanei e con applicazioni che cambiano continuamente. Non è un caso che altri sistemi giuridici facciano maggiore affidamento anche su interventi ex post, sulla responsabilità e sull’interpretazione delle regole esistenti. Forse tra dieci anni, in presenza di una tecnologia più stabilizzata, un impianto normativo così dettagliato avrebbe avuto maggiore senso.
Oggi, però, l’AI Act esiste e dobbiamo partire da questo dato. Possiamo intervenire sulle scadenze, semplificare alcuni adempimenti, come si sta cercando di fare attraverso le iniziative europee di semplificazione digitale, e coordinare meglio i diversi livelli normativi. Ma soprattutto dobbiamo imparare a lavorare maggiormente sull’interpretazione delle norme esistenti, invece di pensare che la risposta debba essere sempre e necessariamente una nuova legge.
Autorità indipendenti e governance dell’intelligenza artificiale
Naturalmente bisogna evitare anche l’eccesso opposto: non possiamo lasciare tutta la regolazione dell’intelligenza artificiale nelle mani dei giudici. È necessario costruire un vero sistema di checks and balances, nel quale abbiano un ruolo fondamentale le autorità indipendenti e le istituzioni dotate di competenze tecniche specifiche. In Italia penso, per esempio, ad Agid, al Garante per la protezione dei dati personali, all’Autorità garante della concorrenza e del mercato, alla Consob e all’Agcom, ma anche ad agenzie tecniche come l’Agenzia per la cybersicurezza nazionale. Sono soggetti che possono contribuire, ciascuno nell’ambito delle proprie competenze, alla costruzione di un sistema di controllo articolato.
Qui mi sembra ancora attuale, e credo possa essere letta in senso costruttivo, la formula utilizzata da Alberto Predieri ne L’erompere delle autorità amministrative indipendenti. Quell’“erompere” segnalava una trasformazione profonda dello Stato: il passaggio da uno Stato prevalentemente imprenditore a uno Stato regolatore, chiamato a confrontarsi con mercati e settori sempre più complessi. Le autorità indipendenti nascevano anche dalla necessità di disporre di competenze specialistiche, continuità nell’azione e una certa distanza dalla contingenza politica. Oggi, di fronte all’intelligenza artificiale, quella intuizione acquista una nuova attualità. Abbiamo ancora più bisogno di istituzioni capaci di comprendere tecnologie molto complesse e di seguirne l’evoluzione senza attendere, ogni volta, un nuovo intervento del legislatore. Non perché le autorità indipendenti debbano sostituirsi alla politica, ma perché possono tradurre le scelte generali del legislatore in una regolazione tecnicamente informata e concretamente applicabile.
Naturalmente, indipendenza non significa assenza di responsabilità. Le autorità devono agire sulla base di competenze chiaramente attribuite dalla legge, motivare le proprie decisioni, garantire partecipazione e trasparenza ed essere sottoposte al controllo del giudice. Il loro ruolo deve essere rafforzato, ma anche inserito in un’architettura ordinata. Se ciascuna autorità procede per conto proprio, il pluralismo istituzionale rischia di trasformarsi in sovrapposizione, conflitto di competenze e duplicazione degli adempimenti.
Su un terreno complesso e dinamico come quello dell’intelligenza artificiale, la politica non deve propriamente fare un passo indietro. Deve continuare a definire gli obiettivi, i valori e le priorità democratiche. Deve però accettare di non poter governare direttamente ogni dettaglio tecnico e lasciare maggiore spazio alle competenze specialistiche, alla regolazione indipendente e a forme controllate di adattamento progressivo delle regole. Non significa sottrarre le decisioni alla democrazia o consegnarle a una tecnocrazia priva di legittimazione. Significa riconoscere, proprio seguendo l’intuizione di Predieri, che lo Stato regolatore ha bisogno di una struttura più articolata rispetto a quella tradizionale. La qualità della regolazione dipenderà sempre di più dalla capacità di costruire una governance corretta e integrata dell’intelligenza artificiale, nella quale legislatori, giudici, autorità indipendenti e organismi tecnici riescano a esercitare funzioni diverse ma complementari, all’interno di un quadro comune di responsabilità, garanzie e controlli.
Partecipa alla community