L’AI corre più veloce della sua affidabilità: il divario che preoccupa

Il dibattito sui rischi dell’intelligenza artificiale continua a concentrarsi soprattutto sull’ipotesi di sistemi sempre più intelligenti e, un giorno, potenzialmente fuori dal controllo umano. Ma la realtà attuale potrebbe essere quasi opposta: i rischi più immediati non derivano da una superintelligenza artificiale, bensì da una forma di “artificial unintelligence”. Sistemi capaci di svolgere compiti sempre più complessi, la cui affidabilità resta però ancora discontinua.

È in questo contesto che si inserisce il recente appello di Dario Amodei, CEO di Anthropic, a rallentare il ritmo con cui migliorano le capacità dei modelli di AI, così da lasciare alla prevenzione dei rischi il tempo necessario per tenere il passo. I progressi continuerebbero comunque a essere rapidi: la questione è fare un uso saggio del tempo così guadagnato.

Una posizione che ha raccolto rapidamente il sostegno, almeno nelle sue linee generali, di figure come Elon Musk, Sam Altman e Satya Nadella. Le domande immediate sono quindi due: perché questo argomento emerge proprio ora e perché ha raccolto così rapidamente consenso all’interno dell’industria.

Affidabilità dell’intelligenza artificiale: perché gli allarmi arrivano ora

Amodei richiama rischi di cui Anthropic parla da tempo, dalla cybersicurezza ai possibili attacchi bioterroristici, insieme a sviluppi più recenti. Tra gli esempi cita agenti di OpenAI che hanno violato Hugging Face e il rapido avanzamento delle capacità dell’AI nel contribuire alla creazione di sistemi ancora più intelligenti, fino alla cosiddetta “recursive self-improvement”.

Il tema, però, non nasce oggi. Già nel 1965 il matematico I.J. Good scriveva di macchine ultra-intelligenti in grado di progettare macchine ancora migliori, dando origine a una “esplosione di intelligenza”. Arrivava a descriverla come l’ultima invenzione che l’uomo avrebbe mai avuto bisogno di realizzare e sosteneva che la nostra sopravvivenza dipendesse dalla costruzione tempestiva di una macchina ultra-intelligente. È una linea di pensiero che, con forme diverse, continua a essere condivisa da Amodei e da altri protagonisti della Silicon Valley.

Dall’AGI agli interessi dell’industria

Il momento in cui questi avvertimenti vengono rilanciati solleva però interrogativi legittimi. Molte delle stesse aziende che oggi mettono in guardia dai rischi della frontiera dell’AI hanno trascorso anni a sottolineare il potenziale trasformativo dell’intelligenza artificiale generale, o AGI, talvolta accompagnando queste previsioni con scenari dalle conseguenze esistenziali.

Da una prospettiva più cinica, alcuni degli incidenti recenti potrebbero perfino essere stati interpretati come opportunità di marketing. Ma liquidare questi avvertimenti come semplice posizionamento in vista di IPO, raccolte di capitali o nuovi investimenti nei data center sarebbe troppo facile. La domanda più importante è capire se la diagnosi sia corretta.

Ed è qui che il dibattito rischia di essere impostato nel modo sbagliato.

Il divario di affidabilità dell’AI e l’“artificial unintelligence”

La preoccupazione viene spesso presentata come un problema di eccessiva intelligenza: sistemi così capaci da sfuggire al controllo umano. Eppure, oggi la realtà è quasi opposta. I rischi più immediati non derivano dalla superintelligenza artificiale, ma dall’“artificial unintelligence”.

I sistemi moderni di AI possono scrivere software, risolvere problemi complessi, apprendere dall’interazione e interagire con i workflow. Allo stesso tempo, continuano ad allucinare fatti, inventare fonti, ignorare elementi evidenti di contesto, fallire in modo imprevedibile ed essere manipolati in modi sorprendentemente semplici. Le loro capacità sono impressionanti, ma l’affidabilità resta discontinua.

Questo divario è cruciale perché il maggiore impatto sociale dell’AI nei prossimi anni difficilmente arriverà da una superintelligenza fuori controllo. Più probabilmente, arriverà da milioni di decisioni prese da sistemi abbastanza utili da essere adottati, ma ancora abbastanza imperfetti da commettere errori con conseguenze rilevanti.

Verifiche indipendenti per rendere l’intelligenza artificiale affidabile

Un elemento importante dell’intervento di Amodei è che non si limita a indicare i rischi, ma propone impegni e raccomandazioni concreti. Anthropic si impegna a garantire a valutatori indipendenti un livello di accesso paragonabile a quello dei dipendenti, così da verificare il rispetto delle policy di sicurezza e valutare i modelli sia durante lo sviluppo sia in produzione.

È un passo specifico in avanti per i laboratori di AI. La valutazione e la verifica da parte di terzi rappresentano infatti un approccio consolidato in settori che hanno sviluppato nel tempo pratiche di sicurezza più mature, dall’aviazione alla farmaceutica, dalla finanza alla sicurezza alimentare.

Dai modelli ai workflow, le responsabilità delle imprese

Ma le salvaguardie a livello di modello sono soltanto una parte del quadro. Lo ha sottolineato anche Satya Nadella, CEO di Microsoft: le imprese costruiscono applicazioni, workflow e processi decisionali sopra i foundation model, creando rischi e responsabilità che vanno ben oltre il fornitore del modello stesso.

Regolazione dell’AI e affidabilità: il ruolo dell’Europa

Come passo successivo, Amodei propone una forma di “coordinamento democratico” attraverso una regolazione “sensata e mirata” rivolta a tutte le aziende statunitensi che operano sulla frontiera dell’AI. Poiché arrivare a un quadro normativo richiede tempo, la proposta è che nel frattempo le imprese collaborino su base volontaria per definire standard comuni. Il tutto cercando di mantenere il passo anche rispetto all’equilibrio geopolitico tra Stati Uniti e Cina.

Colpisce, in questo quadro, l’assenza di riferimenti ad altre aree geografiche come l’Europa. È vero che oggi l’UE non ospita aziende frontier AI della stessa scala dei principali sviluppatori americani e cinesi, ma resta un mercato significativo per i loro prodotti e servizi.

L’AI Act e il vantaggio europeo nella governance

Sul piano della governance, inoltre, l’Unione europea può essere considerata più avanti rispetto ad altre grandi giurisdizioni, avendo già raggiunto un accordo su una legislazione organica attraverso l’AI Act. Non sorprende che l’Europa non venga citata esplicitamente, ma la domanda resta: significa che è indietro sull’AI, come sostengono spesso i suoi critici, oppure è più avanti nella costruzione di un quadro normativo condiviso?

Capacità e affidabilità dell’intelligenza artificiale devono avanzare insieme

È improbabile che il progresso dell’intelligenza artificiale rallenti in modo significativo: gli incentivi di mercato, la pressione competitiva e gli equilibri geopolitici spingono tutti nella direzione opposta.

La sfida, quindi, è fare in modo che l’affidabilità riesca a tenere il passo con capacità sempre più avanzate, riducendo il divario tra ciò che i sistemi di AI possono fare e ciò che persone e organizzazioni possono affidare loro in sicurezza.

È su questo equilibrio che si giocherà la prossima fase dell’intelligenza artificiale: non soltanto su quanto potenti diventeranno questi sistemi, ma su quanto sapranno dimostrarsi prevedibili e affidabili.