Nel 1975, 140 scienziati riuniti ad Asilomar, in California, definirono in autonomia regole di contenimento graduale per gli esperimenti sul DNA ricombinante, rimettendo in moto la ricerca scientifica che una precedente moratoria aveva di fatto congelato.
Un caso da manuale di etica costruita dal basso, che funzionò per oltre 40 anni, fino a quando lo scienziato cinese He Jiankui, nel 2018, annunciò la nascita di Lulu e Nana, le prime gemelle geneticamente modificate.
Ne nacque uno scandalo internazionale, che innescò una risposta durissima, e statale, da parte di Pechino. Jiankui venne condannato a 3 anni di carcere e alla radiazione dall’albo professionale.
Indice degli argomenti
Dall’etica dal basso alla governance IA
Non è un caso che il Future of Life Institute abbia scelto proprio Asilomar, nel 2017, per la sua conferenza sui principi dell’IA benefica.
Il punto è che la contrapposizione metodologica tra etica costruita dal basso, dalle diverse componenti della Società Civile (scienziati, attivisti, semplici cittadini) ed etica calata dall’alto dello Stato non è nata con l’Intelligenza Artificiale.
Il diario di bordo della governance delle tecnologie trasformative lo documenta con dovizia di particolari.
Il Motor Car Act del 1903, per esempio, nell’Inghilterra di inizio secolo presupponeva che lo Stato dovesse intervenire quando l’uso della tecnologia da parte di alcuni potesse nuocere ad altri. Era l’applicazione di un principio etico di matrice liberale classica, un distillato di John Stuart Mill in purezza: la libertà individuale trova il suo limite nel danno a terzi.
La legge stradale introdusse targhe, patenti e un limite di 20 miglia orarie, rincorrendo l’innovazione dopo una prima deregolamentazione.
La diffidenza verso il potere monopolistico permeava, invece, l’Electric Lighting Act del 1882, sempre in Inghilterra, che puntava a impedire che venissero replicati nella nascente industria elettrica gli assetti proprietari dell’industria del gas di città.
Il Telecommunications Act del 1996, nell’America di Clinton, ribaltò quell’approccio nella convinzione che la concorrenza di mercato fosse sufficiente a garantire la giustizia distributiva verso il consumatore.
Il precedente nucleare e il principio precauzionale
Il parallelo più diretto per l’IA, però, resta quello con l’energia nucleare. Nel luglio 1945 gli scienziati del Progetto Manhattan chiesero a Truman di rendere pubbliche le condizioni imposte al Giappone prima di usare la bomba: per la prima volta emergeva il principio precauzionale legato all’irreversibilità del danno, non solo alla sua probabilità. Il presupposto era che chi, in quel caso la Politica, apre la porta a una forza distruttiva deve risponderne moralmente di fronte alla Storia.
Lo stesso schema retorico della petizione degli scienziati del ’45 ritorna oggi con le dichiarazioni sui rischi esistenziali, le lettere aperte, l’idea che i grandi laboratori abbiano il “dovere” di sviluppare l’IA in modo sicuro a beneficio dell’Umanità.
Questo mentre resta il sospetto che i grandi player di IA chiedano regolamentazione “dall’alto” al solo scopo di alzare le barriere all’entrata e soffocare la concorrenza open-source, che a sua volta si propone come terza via etica: una tecnocrazia aperta che non si vuole assoggettare né alle norme etiche calate dall’alto, né in quelle prodotte dalle istituzioni formali della società civile.
L’Atomic Energy Act del 1946 fu un caso unico: la regolamentazione arrivò prima che esistesse qualsiasi uso civile della tecnologia, trasferendo la responsabilità dell’energia nucleare dal militare Progetto Manhattan alla nuova Atomic Energy Commission (AEC).
La stessa legge introduceva anche il concetto di “restricted data”: erano tali tutte le informazioni riguardanti il design, lo sviluppo e la fabbricazione di armi nucleari, indipendentemente da come un individuo o un’organizzazione le ottenessero.
L’Atomic Energy Act del 1954 consentì lo sviluppo del nucleare civile, ma per vincere la riluttanza dei privati dovuta ai primi incidenti nei reattori di ricerca, fu necessario arrivare nel 1957 al Price-Anderson Act, che limitava la responsabilità civile delle imprese. Per i favorevoli, la norma, tuttora in vigore, creava un’assicurazione collettiva per eventi ad alto impatto e bassa probabilità, mentre per i contrari costituiva un “sussidio nascosto” che scarica sullo Stato il rischio catastrofico.
La responsabilità morale invocata dagli scienziati del ’45, alla fine, si tradusse in scelte istituzionali – il controllo civile dell’AEC, il regime di segretezza, la diplomazia sulla non proliferazione – ma mai in un obbligo giuridico di rispondere dei danni.
Lo stesso meccanismo è oggi invocato da alcuni anche per l’IA: un tetto alla responsabilità civile dei grandi laboratori in cambio di requisiti di sicurezza verificabili. Ma l’analogia si incrina su un punto decisivo: nel nucleare quel tetto arrivò dopo un controllo regolatorio pervasivo, con licenze, ispezioni e un’agenzia dedicata. Senza un controllo equivalente, un tetto di responsabilità per l’IA sarebbe solo un sussidio nascosto al rischio, l’ennesima riprova che la regolamentazione “dall’alto” richiesta dai grandi laboratori non è mai neutra rispetto a chi ne beneficia economicamente.
Innovazione, diritti e controllo dei rischi
L’introduzione delle tecnologie trasformative, in ultima analisi, vive della tensione tra un’etica utilitarista (massimizzare il benessere aggregato, permettere l’innovazione perché genera valore) e un’etica dei diritti o del limite (alcune libertà, alcuni rischi, alcune concentrazioni di potere non sono accettabili a prescindere dal calcolo costi-benefici).
La tensione tra innovazione e controllo dei rischi viene continuamente rinegoziata.
L’uomo a piedi, con la bandiera rossa, che doveva precedere di almeno 50 metri i primi veicoli a motore per avvisare carrozze e cavalieri, con limiti di velocità fissati a 4 miglia orarie in campagna e 2 miglia orarie in città, era una risposta al problema del controllo del rischio che non avrebbe permesso lo sviluppo dell’industria automobilistica.
In tutto questo, il fattore tempo è cruciale: una regolamentazione troppo precoce rischia di soffocare l’innovazione; una troppo tardiva può permettere il consolidamento di pratiche e interessi poi difficili da gestire. Non esiste un “momento giusto” universale, ma le decisioni normative iniziali hanno spesso, nel bene e nel male, effetti di lungo periodo. La classificazione della banda larga come “servizio informativo” plasmò il mercato Internet americano per generazioni, mentre il concetto di “restricted data” del 1946 crea ancora controversie ottant’anni dopo.
Una domanda ricorrente, inoltre, è se la nuova tecnologia debba essere trattata come monopolio naturale regolato o se la concorrenza di mercato debba essere incoraggiata.
È un dilemma che ha già attraversato altre tecnologie di rete: la radio fu regolata per decreto perché lo spettro è una risorsa fisicamente scarsa, mentre il telefono restò monopolio integrato con AT&T fino allo smembramento antitrust del 1984, quando prevalse l’idea opposta, ovvero che la concorrenza generi più innovazione. È lo stesso bivio che oggi si ripropone per l’IA, dove pochi laboratori concentrano capitali e potenza di calcolo: come un pendolo che oscilla più volte nel tempo, la scelta tra i due modelli raramente è definitiva.
La governance IA nella dimensione internazionale
La dimensione internazionale è un’altra strettoia delle tecnologie trasformative. L’aviazione ha trovato un’architettura solida con la Convenzione di Chicago del 1944 e l’ICAO, mentre il nucleare ha percorso una via più politica e incompleta con il Trattato di Non Proliferazione, cui non aderiscono potenze nucleari come India, Pakistan, Israele e Corea del Nord. Internet, con ICANN, non è mai arrivata a un trattato vincolante, e resta contesa tra il modello multistakeholder occidentale e quello intergovernativo spinto da Cina e Russia.
Nessuno Stato può regolare l’IA in isolamento, i modelli si addestrano, si distribuiscono e si usano oltre ogni confine, eppure gli unici tentativi di coordinamento globale restano deboli: l’AI Safety Summit di Bletchley Park nel 2023 e i vertici successivi hanno prodotto dichiarazioni di principio, non trattati vincolanti. E le Nazioni Unite discutono di IA da anni senza un’architettura paragonabile a quella dell’AIEA sul nucleare.
Il risultato è che l’IA, forse la tecnologia più intrinsecamente transnazionale di sempre, presenta modelli di governance specifici per i diversi quadranti geopolitici.
Il modello americano tra light touch e controllo pubblico
In America il modello è quello del “light touch”, il tocco leggero della mano pubblica. Di più: per come la vede Tim Wu, professore alla Columbia Law School, “l’America ha sempre creduto che la migliore regolamentazione sia quella che non esiste ancora”.
È quello che ha permesso a Big Tech di diventare dominante. A Mark Zuckerberg di usare il mantra degli inizi, “move fast and break things”, come una frusta ideologica per spronare l’innovazione a qualunque costo.
Niente regolazione ex ante, le class action arrivano a distanza di anni quando i clienti sono stati arruolati a milioni, i loro dati “fatti propri” dai player digitali e la competizione schiacciata. Multe e risarcimenti danni diventano una voce di costo del fare business. Con la caratteristica di essere di un ordine di grandezza inferiore ai ricavi.
Gli Stati Uniti non hanno una legge federale completa sull’IA (come l’AI Act europeo), ma si affidano a un patchwork di executive order, framework volontari e regolamentazione settoriale.
Il pilastro resta il Risk Management Framework pubblicato nel 2023 dal NIST, agenzia non regolatoria del Dipartimento del Commercio: un framework volontario, sviluppato con oltre 240 enti (industria, società civile, accademia), diventato riferimento per gli appalti federali e per standard internazionali come l’ISO 42001.
Negli ultimi 2 anni, però, il modello USA sta evolvendo verso un maggiore controllo pubblico, anche se con un conflitto costante tra livello federale e livello statale.
Deepfake elettorali, l’uso dell’IA nel recruiting e nel credit scoring, i casi di suicidio di un minore legati a un chatbot, le esigenze della “consumer protection” hanno aperto la strada a cause legali e alla proliferazione di leggi statali: 44 Stati su 50 che hanno già legiferato sull’IA, introducendo requisiti su trasparenza, bias, privacy e accountability.
L’amministrazione Trump spinge invece per uno standard normativo nazionale unico. Finora senza successo, tanto da aver dovuto istituire una task force per contestare le leggi statali non coerenti con la policy federale.
Il risultato è che il paese nato sul principio del “light touch”, di fronte al fallimento dell’autoregolamentazione, prova a centralizzare il controllo con la stessa rapidità con cui gli Stati lo avevano riempito dal basso.
La Cina e la regolazione top-down dell’IA
Anche il modello top-down della Cina negli ultimi due anni sembra andare nella direzione di un maggiore pluralismo: la Cyberspace Administration of China resta il regista della regolamentazione, con le prime norme al mondo sull’IA generativa, che impongono registrazione degli algoritmi, sicurezza dei dati e prevenzione di output dannosi. Ma aziende come ByteDance e DeepSeek contribuiscono con autoregolamentazione e scelte commerciali proprie, mentre ONG, educatori e famiglie si sono attivati per scrivere linee-guida sulle app IA per minori, e università e aziende sono chiamate a costituire comitati etici interni, sottoposti comunque a revisione governativa.
La sicurezza dello Stato, e non i diritti individuali, resta la priorità, come mostra la campagna “Qinglang” dell’aprile 2026: oltre 26.000 account sospesi e più di 1.300 prodotti IA rimossi per problemi di registrazione mancante, filtri deboli, manipolazione dei dati di addestramento e contenuti generati non etichettati.
Le aziende hanno risposto in modo discontinuo, alcune rafforzando i controlli, altre disattivando intere funzioni piuttosto che adeguarsi, un segnale che anche in un sistema centralizzato l’esecuzione concreta si negozia con attori non statali.
Il Canada e l’etica costruita dal basso
Un modello interessante di “etica costruita dal basso” è quello canadese. Il governo federale, prima con Justin Trudeau nel 2017 e poi con l’attuale primo ministro Mark Carney, ha investito centinaia di milioni di dollari nell’ecosistema IA canadese attraverso la Pan-Canadian AI Strategy.
Società civile, no-profit e ricerca accademica orientano la governance senza un mandato diretto, lavorando su literacy etica, advocacy e co-creazione. È in questo contesto che sono nati il Montreal AI Ethics Institute (MAIEI), il Mila, il Vector Institute e l’AI Governance and Safety Canada (AIGS).
Il MAIEI ha fatto della co-creazione il proprio paradigma distintivo: non più semplice consultazione delle comunità indigene, rurali o a basso reddito, ma design condiviso dei sistemi fin dall’inizio, con l’obiettivo dichiarato di andare oltre la compliance e misurare l’impatto reale su potere, fiducia e partecipazione.
Il Mila, fondato da Yoshua Bengio, uno dei tre “padrini” del deep learning insigniti nel 2018 del Turing Award, ha costruito un modello di governance dal basso che parte dalla ricerca accademica invece che dallo Stato. Il programma Indigenous Pathfinders in AI porta ogni anno giovani First Nations, Inuit e Métis a sviluppare prototipi su temi scelti dalle diverse comunità indigene.
Tra i progetti più interessanti, un’iniziativa di ripristino delle mandrie di bisonti che combina AI, tracciamento GPS, droni e campionamento del suolo per la sicurezza alimentare, una piattaforma di gioco per rivitalizzare la lingua Mohawk unendo elaborazione del linguaggio naturale e narrazione interattiva, e uno strumento per la gestione degli incendi boschivi che integra conoscenza tradizionale e modellazione ambientale avanzata.
Quest’anno è stato lanciato l’Indigenous AI Advisory Circle, un organo consultivo permanente con sei leader indigeni chiamato a garantire che le voci indigene non restino “una nota a piè di pagina” ma diventino “un fondamento” della governance IA canadese.
Insomma, mentre Ottawa elabora la sua strategia federale, un istituto di ricerca privato anticipa lo Stato su un fronte, la sovranità dei dati indigeni, che nessuna legge nazionale ha ancora affrontato.
Se il Mila rappresenta il volto canadese dell’inclusione, il Vector Institute di Toronto, il più industry-oriented, incarna il fronte dell’allarme pubblico. Il suo Chief Scientific Advisor è Geoffrey Hinton, l’altro “padrino dell’IA”, Turing Award nel 2018 insieme a Bengio e Yann LeCun, e Nobel per la Fisica nel 2024. Hinton ha lasciato Google nel 2023 per poter parlare più liberamente dei rischi dell’IA, diventando una delle voci più autorevoli a favore di una regolamentazione stringente, in conflitto con l’approccio market-driven della Silicon Valley.
Nel 2023, il Vector ha pubblicato sei principi di trust and safety, dando vita a un riferimento adottato da organizzazioni e governi: benefici per esseri umani e pianeta, valori democratici, privacy e sicurezza, robustezza lungo il ciclo di vita, disclosure responsabile, accountability delle organizzazioni. Proprio quest’ultimo principio riconosce che “la legislazione e i quadri normativi governativi sono necessari”, un’ammissione che anche gli attori più autorevoli del modello dal basso vedono i limiti dell’autoregolamentazione volontaria, pur continuando a praticarla.
La frammentazione del modello canadese è emersa invece con la consultazione federale dell’ottobre 2025 del ministro per l’AI Evan Solomon. Oltre 160 esperti hanno protestato contro lo sbilanciamento pro-industry della task force e la durata di soli 30 giorni, dando vita alla parallela People’s Consultation on AI per i diritti civili. In parallelo, la no-profit AIGS Canada opera sulla sicurezza tecnica con accesso alle audizioni parlamentari. Insomma, tre canali distinti competono per orientare la stessa policy, in un modello privo di obblighi legali.
Europa e Italia nella governance IA vincolante
Italia ed Europa hanno intrapreso un percorso antitetico, puntando su una governance vincolante dall’alto.
L’Italia, in particolare, è il primo paese UE ad aver adottato una legge nazionale organica sull’IA, la 132/2025, complementare all’AI Act europeo, affidata a un impianto tripartito: l’AgID come autorità di notifica e promozione dell’innovazione, l’ACN come autorità di vigilanza con poteri ispettivi e sanzionatori e punto di contatto unico con Bruxelles, il Garante per la protezione dei dati personali con piena autorità in materia di GDPR sui trattamenti di dati legati all’IA, cui si affiancano i regolatori settoriali, dalla Banca d’Italia alla CONSOB, e dall’IVASS all’AGCOM.
Lo stesso impianto gerarchico si ritrova a livello europeo, dove l’AI Act coordina le autorità nazionali attraverso l’AI Office della Commissione e l’European Data Protection Supervisor per le istituzioni UE, con enforcement basato su conformità, ispezioni e sanzioni.
Il caso Clearview AI, azienda che ha raccolto oltre tre miliardi di foto per un sistema di riconoscimento facciale senza consenso, dimostra come la mancanza di standard internazionali condivisi produca esiti paradossalmente diversi.
Negli Stati Uniti ha generato soprattutto class action private. In Canada, un’indagine dei privacy commissioner, che hanno catalogato l’accaduto come “illegale sorveglianza di massa”, ha portato al ritiro dell’azienda dal mercato senza alcuna nuova legge. In Italia il Garante ha sanzionato Clearview per 20 milioni di euro, vietandole la raccolta di dati biometrici di cittadini italiani, mentre a livello europeo lo scandalo ha contribuito alla stesura delle restrizioni sul riconoscimento facciale nell’AI Act.
Etica dell’IA, legge e inflazione dei principi
La storia delle tecnologie trasformative, come detto, vive della dialettica tra etica utilitaristica ed etica dei diritti e tra etica costruita dal basso ed etica calata dall’alto.
Nel caso dell’IA, questa dialettica è complicata da un’inflazione di principi che ricorda da vicino ciò che è già accaduto nelle biotecnologie: nel 2026 esistono più di duecento linee guida etiche sull’IA, e almeno 245 framework dedicati al solo rapporto tra IA e lavoro.
Il problema di partenza, chi decide che cosa sia etico prima che un algoritmo prenda una decisione al posto nostro, non ha una soluzione univoca.
C’è chi pensa che chi scrive l’architettura tecnica di un sistema stia già regolando i comportamenti prima che lo faccia qualunque parlamento. Come dice il giurista di Harvard, Lawrence Lessig, “code is law”.
I giuristi della regolazione, Ian Ayres e John Braithwaite, hanno proposto invece il modello della “piramide regolatoria”, dove l’autoregolamentazione è la base e l’intervento statale diretto resta l’ultima risorsa, un framework che permette di leggere Cina, Canada, Stati Uniti e Italia/Europa non come modelli alternativi, ma come punti diversi sulla stessa scala.
Non la pensa così Shoshana Zuboff che, nel suo Il capitale di sorveglianza, vede il passaggio dall’etica alla legge “non come una transizione, ma un campo di battaglia”: le grandi piattaforme non salgono spontaneamente i gradini della piramide regolatoria verso l’intervento statale, ma usano l’autoregolamentazione in modo attivo per sottrarsi alla sovranità democratica il più a lungo possibile.
I limiti dei modelli globali di governance IA
I dati empirici offrono qualche indicazione utile. Il Canada prova che la società civile organizzata può produrre standard influenti, ma sconta l’assenza di regole vincolanti e la frammentazione delle sue iniziative.
Gli Stati Uniti dimostrano che uno standard tecnico flessibile come il Risk Management Framework del NIST può diventare riferimento globale, ma resta ostaggio della buona volontà aziendale finché manca enforcement federale.
La Cina rivela che uno Stato può guidare rapidamente senza escludere mercato e società civile dal processo, ma al prezzo di una trasparenza limitata e della compressione dei diritti individuali.
L’Europa, con l’Italia come caso di scuola più recente, prova che l’enforcement vincolante protegge davvero i diritti fondamentali, ma paga il conto in lentezza burocratica e partecipazione civica perlopiù formale.
Forse la domanda utile, a questo punto, non è più quale modello abbia ragione, ma chi paga il costo dell’errore mentre il sistema impara a governare una tecnologia che cambia più in fretta di qualunque legge.
È una domanda non ideologica, ed è forse l’unico terreno comune su cui costruire quell’ibrido tra partecipazione civica canadese, flessibilità tecnica americana, capacità d’intervento rapido cinese e protezione dei diritti europea, che nessun paese, per ora, ha davvero tentato.
Il pendolo tra etica dal basso ed etica dall’alto oscillava già nel 1975, quando la biologia molecolare si diede le proprie regole ad Asilomar, salvo poi vedersele riscrivere dallo Stato cinese quando quelle regole furono infrante. L’IA, mezzo secolo dopo, sta scoprendo di essere ferma esattamente allo stesso punto, con la differenza che questa volta ad accorgersene, o a subirne le conseguenze, siamo tutti noi.
Partecipa alla community