Indirizzare l’intelligenza artificiale verso finalità umane. Nel gergo tecnico è definito il tema dell'”allineamento” , già noto da anni (vedi il filosofo Nick Bostrom) ma ora divenuto molto attuale a causa di un paradosso: da una parte l’AI si appresta a occupare sfere decisionali sempre più critiche per l’essere umano, dall’altra (dopo il caso Hugging Face) ha mostrato di avere comportamenti inattesi e potenzialmente dannosi.
Moltissimi esperti e Governi si stanno interrogando ora su come risolvere il paradosso, da cui dipende sia il controllo di rischi sistemici sia la possibilità di usare l’AI per una svolta positiva per l’umanità (in economia, Sanità eccetera).
Indice degli argomenti
Il paradosso dell’allineamento AI
Purtroppo però il framing dominante del problema, nel mondo dell’industria tech e (soprattutto) all’interno dell’amministrazione Trump, sembra allontanarci dalla soluzione. La loro idea è che tutto sommato l’allineamento sia un problema tecnico. Le regole, laddove entrano in gioco, possono semmai limitarsi a porre alcuni paletti.
In questi giorni però sta prendendo forza una visione alternativa, non a caso proveniente dal mondo dell’accademia non allineata con la Silicon Valley. E’ la visione secondo cui l’AI dispiega le proprie capacità all’interno di un un sistema umano, socio-tecnico. E se vogliamo indirizzare l’AI verso fini umani, bisogna quindi che questi fini coincidano con gli interessi collettivi.
Bisogna quindi intervenire sulle condizioni “umane” alla base, su cui si situa l’AI, per poterla indirizzare a favore del bene comune.
Tra i protagonisti di questo approccio ci sono Arvind Narayanan, informatico dell’Università di Princeton, e Yoshua Bengio, uno dei pionieri del deep learning. Narayanan, intervistato da Ezra Klein, sottolinea che l’intelligenza di un modello non gli conferisce automaticamente potere: sono gli esseri umani a decidere quali strumenti, accessi e autonomia concedergli. Bengio, sul Financial Times, avverte invece che gli stessi metodi di addestramento possono favorire comportamenti ingannevoli e pericolosi, destinati ad aggravarsi con l’aumento delle capacità. E questi metodi di addestramento sono a loro volta influenzati da una competizione sfrenata tecno-centrica, tipica della Silicon Valley. Afflitta da due difetti: a contare è il risultato a breve termine e si tendono a mettere in secondo piano le condizioni socio-culturali a contorno della tecnologia.
Insomma, come rendere sicura l’AI se imprese, mercati e conflitti geopolitici (Usa-Cina) premiano lo sviluppo più rapido, non necessariamente quello più prudente?
Narayanan: intelligenza e potere non sono la stessa cosa
Il punto di partenza di Narayanan, professore di informatica a Princeton, è sviluppato con Sayash Kapoor nel saggio del 2025 AI as Normal Technology. L’intelligenza artificiale può essere una tecnologia di portata generale, come l’elettricità, senza diventare per questo un soggetto al quale occorre per forza affidare il controllo delle infrastrutture e delle decisioni.
La distinzione è fra capacità e potere effettivo: un agente può saper individuare vulnerabilità informatiche, ma per sfruttarle deve poter eseguire codice, comunicare con altri sistemi o usare credenziali. Queste facoltà dipendono da scelte umane di progettazione e autorizzazione. Per questo, sostiene Narayanan, la crescita delle capacità non rende inevitabile la crescita dei poteri concessi agli agenti.
In un lungo studio pubblicato il 14 settembre 2026, Narayanan e Kapoor indicano un insieme di contromisure: ambienti isolati più resistenti agli attacchi, accessi limitati allo stretto necessario, registrazione delle operazioni, sistemi di allarme, possibilità di interrompere l’esecuzione e personale incaricato di sorvegliare gli esperimenti. Le chiamano AI control: misure esterne al modello per ridurre i danni anche quando il modello prende una decisione indesiderata.
La loro posizione non è che la cybersicurezza tradizionale abbia già risolto il problema. Gli agenti possono trovare falle nuove e agire più rapidamente degli esseri umani, quindi servono innovazioni specifiche. Ma, secondo gli autori, il deficit attuale riguarda anche l’adozione dei controlli disponibili e la maturità organizzativa dei laboratori. Un responsabile dovrebbe poter fermare un esperimento rischioso, anche quando ciò costa tempo e vantaggio competitivo.
Bengio: il pericolo comincia dagli obiettivi insegnati agli agenti
Yoshua Bengio, professore all’Università di Montréal e alla guida scientifica di LawZero, individua un problema più profondo. Gli agenti sono spesso addestrati mediante reinforcement learning, un metodo nel quale ricevono segnali di ricompensa quando riescono in un compito. Se la ricompensa misura imperfettamente il risultato desiderato, il sistema può imparare scorciatoie utili a ottenere il premio ma contrarie allo scopo reale: barare, occultare informazioni o aggirare vincoli.
Per Bengio, migliorare soltanto le barriere informatiche significa rischiare di inseguire ogni nuova tecnica di evasione, senza modificare gli incentivi incorporati nell’addestramento. Il ricercatore propone quindi di intervenire anche sulla progettazione degli obiettivi e sulle modalità di apprendimento. Nell’intervento sul Financial Times arriva a ipotizzare di impedire l’addestramento di sistemi disallineati finché non ne sia dimostrata la sicurezza: una proposta assai più precauzionale, che pone anche il problema di come stabilire tale prova.
La ricerca che Bengio conduce con LawZero segue questa impostazione. Nel lavoro del luglio 2026 Safety from Honesty in a Disinterested AI Predictor, il gruppo propone una Scientist AI orientata a descrivere e prevedere il mondo senza essere premiata per modificarlo in modo da raggiungere propri obiettivi.
Le due prospettive intervengono su problemi differenti. Narayanan chiede di limitare le azioni che un agente può compiere anche quando sbaglia; Bengio vuole ridurre la probabilità che sviluppi comportamenti indesiderati durante l’apprendimento. Allineamento del modello e controllo dell’ambiente sono due livelli di difesa da combinare. Resta però da capire chi decide quali obiettivi debbano essere perseguiti.
L’allineamento sociotecnico: allineare l’AI con chi, e per quale scopo?
È qui che entrano in gioco gli studi sull’allineamento sociotecnico. Bisogna superare il livello superficiale di analisi, che finora ha dominato. Quello tutto centrato su come obbligare tecnicamente un modello a rispettare le istruzioni del proprio sviluppatore.
Il livello più profondo è far sì che il sistema nel suo complesso tenga conto degli interessi delle persone che subiranno le conseguenze delle sue decisioni. Da notare come questo livello incide sul primo, perché tenere conto di questi interessi è una condizione anche per sviluppare la corretta prudenza e lentezza necessaria nell’addestramento e nelle pratiche di safety.
Uno studio presentato alla conferenza AAAI del 2025, Quantifying Misalignment Between Agents: Towards a Sociotechnical Understanding of Alignment, firmato da Aidan Kierans, Avijit Ghosh, Hananel Hazan e Shiri Dori-Hacohen, contesta l’idea di trattare l’umanità come un soggetto con preferenze uniche. I ricercatori propongono un modello, sperimentato attraverso simulazioni e due casi applicativi, per descrivere i conflitti fra interessi di più agenti umani e artificiali.
Un secondo lavoro, Helpful, harmless, honest? Sociotechnical limits of AI alignment and safety through Reinforcement Learning from Human Feedback, pubblicato nel giugno 2025 su Ethics and Information Technology, affronta il problema dalla prospettiva etica e organizzativa. Gli autori, fra cui Adam Dahlgren Lindström e Roel Dobbe, osservano che addestrare un modello a essere utile, innocuo e onesto non risolve automaticamente i conflitti fra questi stessi obiettivi, né stabilisce chi abbia l’autorità di definire ciò che è utile o innocuo.
Un esempio chiarisce la differenza. Una piattaforma può chiedere all’AI di massimizzare il tempo trascorso dagli utenti sul servizio. Il modello può eseguire perfettamente il compito senza violare le istruzioni tecniche, ma privilegiare contenuti che catturano l’attenzione a scapito di informazione e autonomia.
Un po’ come i social media, insomma.
Il modello sarebbe allineato all’obiettivo commerciale, non necessariamente al benessere di chi lo usa. Rendere più accurata l’esecuzione dell’ordine non correggerebbe il problema: occorrerebbe modificare l’ordine o le condizioni in cui viene stabilito.
Il punto non è negare il valore dell’allineamento tecnico. È riconoscere che una parte dei rischi nasce prima che il modello venga addestrato, quando imprese, istituzioni e gruppi sociali decidono che cosa misurare, quali risultati remunerare e a quali interessi attribuire priorità.
Il disallineamento delle imprese: quando la corsa all’AI riduce gli incentivi alla sicurezza
La concorrenza può accelerare l’innovazione, ma può produrre anche un incentivo a pubblicare modelli prima dei concorrenti, rinviando attività di verifica costose e dai benefici meno immediatamente visibili. Il risultato è un problema economico noto: una parte dei vantaggi della velocità è privata, mentre una parte dei possibili danni ricade su altri.
Su questo meccanismo si concentra lo studio di Fadi Fawaz e Anis Mnif Strategic incentives and policy levers in the economics of AI alignment, pubblicato nel febbraio 2026 su Economics of Innovation and New Technology. Attraverso un modello economico dinamico e simulazioni, gli autori mostrano come la pressione competitiva e un regime incerto di responsabilità possano portare le imprese a investire meno del necessario in sicurezza; regole sulla responsabilità e coordinamento delle politiche possono invece cambiarne gli incentivi. Sono risultati di un modello, non la misura di quanto ogni laboratorio abbia effettivamente tagliato la sicurezza.
La competizione esterna, però, non spiega tutto. Narayanan richiama anche la cultura interna dei laboratori: se la prestazione del nuovo modello diventa il principale criterio di successo, un gruppo di ricerca può considerare il monitoraggio un ostacolo anziché parte del lavoro. La decisione di non attivare una misura di controllo resta una scelta organizzativa, anche quando esistono forti pressioni del mercato.
La stessa logica emerge su scala più ampia. Uno studio pubblicato su AI and Ethics nel dicembre 2025, Towards a sociotechnical ecology of artificial intelligence, firmato tra gli altri da Andrés Domínguez Hernández e David Leslie, descrive l’AI come una rete di imprese, lavoratori, dati, infrastrutture e risorse distribuite fra Paesi. Governare soltanto l’output finale dei modelli lascia fuori i rapporti di potere che determinano chi sviluppa la tecnologia e chi ne sopporta i costi.
Le regole che possono cambiare il comportamento delle aziende
Se la sicurezza dipende anche dagli incentivi, la governance deve intervenire su più livelli. Occorrono strumenti che rendano conveniente adottare le precauzioni e rendano invece costoso ignorare segnali di rischio, prima e dopo la distribuzione di un sistema.
Quattro livelli su cui intervenire per rendere l’AI più sicura
| Livello | Rischio | Risposta |
|---|---|---|
| Modello | Premi per le scorciatoie | Rivedere le ricompense e testare i comportamenti |
| Agente | Troppi permessi e accessi | Permessi minimi, isolamento, allarmi e blocco delle azioni |
| Azienda | Velocità premiata più della prudenza | Responsabili con potere di fermare i test e verifiche indipendenti |
| Mercato e regole | Profitti privati, rischi collettivi | Responsabilità, trasparenza, ricerca pubblica e partecipazione |
Quadro di sintesi basato su Kierans e altri (AAAI 2025), Dahlgren Lindström e altri (2025), Narayanan e Kapoor (2026) e AI Act, articolo 55.
Un primo intervento riguarda la responsabilità per le azioni degli agenti. Narayanan e Kapoor chiedono che le imprese siano chiamate a rispondere dei danni causati anche durante addestramento e valutazione, non soltanto nell’uso commerciale. Chiarire quali precauzioni siano doverose renderebbe meno conveniente lasciare agenti potenti senza contenimento o monitoraggio adeguati. La responsabilità da sola non elimina tutti i rischi: alcuni danni sono difficili da attribuire, altri possono superare la capacità economica di chi li provoca.
Un secondo intervento riguarda la trasparenza sugli incidenti e sui quasi incidenti. Segnalare alle autorità gli errori gravi, i tentativi di aggiramento e le correzioni adottate permette di individuare problemi ricorrenti. Valutazioni indipendenti, verifiche prima del rilascio e protezioni per chi segnala difetti possono ridurre la distanza informativa fra produttori, utilizzatori e istituzioni.
C’è infine il problema della concorrenza e della distribuzione dei costi della sicurezza. Se rispettare gli standard richiede investimenti accessibili solo ai grandi operatori, una regolazione mal progettata rischia di aumentare la concentrazione del mercato. Anthropic versa 2 miliardi di dollari l’anno ad Accenture per la valutazione di compliance dei modelli. Risorse fuori dalla portata di qualsiasi Governo.
Bisogna allora mettere assieme le forze.
Obblighi proporzionati ai rischi, strumenti condivisi di valutazione e sostegno pubblico alla ricerca indipendente e alle difese delle infrastrutture critiche. La partecipazione di lavoratori, consumatori, comunità scientifica e società civile è necessaria per discutere anche gli obiettivi dell’AI; non soltanto la sua conformità tecnica.
Regole e politiche industriali dei Governi dovrebbero indirizzare lo sviluppo a questo scopo, con al centro la condivisione sociali dei benefici, i più estesi e meglio distribuiti possibile.
Che cosa può fare l’Europa con l’AI Act
L’Unione europea dispone già di un punto di partenza. L’articolo 55 dell’AI Act prevede, per i fornitori di modelli di uso generale classificati a rischio sistemico, valutazioni e test avversariali, identificazione e mitigazione dei rischi, comunicazione degli incidenti gravi e adeguate misure di cybersicurezza. Il Codice di buone pratiche sui modelli di uso generale aiuta a tradurre questi obblighi in processi documentabili. La norma non si limita dunque a chiedere che il modello dia risposte corrette: riguarda anche come il fornitore organizza la gestione del rischio.
Non basta, tuttavia, raccogliere documenti e sottoporre i modelli a qualche prova prima del rilascio. Il Rapporto internazionale sulla sicurezza dell’AI 2026, coordinato da Bengio e preparato con il contributo di oltre cento esperti, richiama esplicitamente la pressione a privilegiare la velocità rispetto alla gestione dei rischi. Avverte inoltre che i test preliminari non predicono sempre il comportamento dei sistemi nel mondo reale e indica la necessità di difese stratificate e istituzioni capaci di reagire agli incidenti.
Per l’Europa la questione è quindi duplice. Deve verificare che gli obblighi si traducano in controlli effettivi, anche quando rallentano un esperimento. Ma deve anche decidere come orientare ricerca, mercato e acquisti pubblici affinché la qualità di un sistema non venga misurata soltanto dalle sue prestazioni. Sicurezza, controllabilità, effetti sociali e possibilità di attribuire responsabilità devono contare nelle decisioni di investimento e di utilizzo.
Il vaso di pandora dell’AI Safety
L’AI Safety o l’allineamento sono insomma un vaso di pandora da cui escono mali più profondi dell’umanità: ingiustizie sociali, discriminazioni, capitalismo finanziario “addestrato” a raggiungere obiettivi di breve termine, sistema fiscale iniquo o inadeguato ai fini del benessere condiviso.
Inserire una tecnologia trasformativa come l’AI in un contesto di questo tipo rischia di essere come aggiungere benzina sul fuoco. Non saneremo le ingiustizie della società grazie all’AI. Ma l’AI può darci il motivo – e l’urgenza – di provare a correggerle quanto più possibile.
Partecipa alla community