Dario Amodei, Elon Musk e Sam Altman sono d’accordo. Già questa frase dovrebbe farci drizzare le antenne.
I tre sono tra i protagonisti più importanti della corsa all’intelligenza artificiale e non sono esattamente noti per andare sempre d’amore e d’accordo. Eppure Dario Amodei, CEO di Anthropic, ha pubblicato un lungo contributo dal titolo We Must Pace the Frontier, un appello a rallentare lo sviluppo dell’AI, e sia Musk sia Altman si sono detti d’accordo.
La cosa interessante è capire perché Amodei ritenga che proprio ora sia arrivato il momento di rallentare e, soprattutto, che cosa significa davvero rallentare quando stiamo parlando di una tecnologia che sta iniziando ad avere capacità che fino a poco tempo fa non avevamo nemmeno considerato possibili. Un tema a cui ho dedicato un contenuto sul mio canale YouTube.
Indice degli argomenti
Rallentare l’intelligenza artificiale non significa fermarla
Partiamo da un chiarimento importante, Amodei non dice di fermare l’intelligenza artificiale, anzi, afferma il contrario: dobbiamo continuare a svilupparla perché i benefici che può portare all’umanità sono enormi.
Su questo sono d’accordo: in questo periodo, per esempio, si è parlato pochissimo dei risultati che l’AI sta ottenendo in ambito matematico, mentre tutta l’attenzione si è concentrata sui rischi.
Amodei afferma infatti che dobbiamo rallentare la velocità con cui aumentiamo le capacità dei modelli, utilizzando il tempo che guadagniamo per capire come gestirli.
In altre parole, se una tecnologia è estremamente potente e presenta dei rischi, la soluzione non è necessariamente fermarla. Può essere studiarla di più, per capire i suoi limiti, imparare a contenerli e anticipare i problemi.
Questa è una posizione che condivido, ma, leggendo il suo intervento, una cosa continua a tornarmi in mente.
Se dobbiamo rallentare, perché abbiamo corso così tanto?
Se è necessario rallentare, perché fino a ieri abbiamo corso come dei pazzi? Per anni abbiamo assistito a una corsa continua, prima tra i principali attori americani e poi per competere con la Cina. Modello dopo modello, release dopo release, benchmark dopo benchmark. E adesso, all’improvviso, ci viene detto che forse sarebbe meglio rallentare tutti.
Capisco il ragionamento e mi fa piacere che aziende come Anthropic mettano sul tavolo questi problemi, ma da osservatore, utilizzatore e appassionato di questa tecnologia non posso fare a meno di avere qualche dubbio.
È infatti molto comodo sostenere che bisogna rallentare quando sei già tra quelli che sono arrivati davanti e, inoltre, non possiamo ignorare il contesto economico. OpenAI e Anthropic stanno entrando in una fase nella quale la quotazione in Borsa è un tema importante: presentarsi come aziende attente alla sicurezza, alla trasparenza e alla gestione dei rischi è certamente un messaggio che ha un valore. Tutto questo significa che dobbiamo tenere il cervello acceso anche quando il messaggio ci piace.
Il punto critico: l’AI e le capacità di automiglioramento
Tra i diversi passaggi dell’intervento di Amodei ce n’è uno che mi fa particolarmente riflettere, ovvero quello che evidenzia come l’AI stia sviluppando crescenti capacità di automiglioramento.
Questo non significa che oggi abbiamo un’intelligenza artificiale che costruisce autonomamente da zero la generazione successiva di AI, almeno sulla base delle informazioni pubbliche di cui disponiamo. Però ne vediamo già i primi segnali, e qui cambia tutto: per molto tempo ho pensato all’AI come a uno strumento, ma oggi ne sono molto meno convinto. Nella storia delle invenzioni umane, infatti, è la prima volta che abbiamo uno strumento che può contribuire a migliorare se stesso: scrivere codice, modificarlo e, in prospettiva, contribuire alla costruzione della versione successiva.
La conseguenza più interessante, e allo stesso tempo più inquietante, è che se questi sistemi diventano più capaci di noi nel modificare e migliorare se stessi, rischiamo di arrivare a un punto in cui non li comprenderemo più completamente. Di conseguenza, se non comprendiamo un sistema, diventa molto più difficile controllarlo.
Se non capiamo l’AI, come facciamo a controllarla?
Immaginiamo la direzione verso cui potremmo andare: gli esseri umani costruiscono una prima generazione di sistemi, quella generazione contribuisce a costruire la successiva, la seconda contribuisce alla terza e così via.
A un certo punto potremmo avere sistemi che hanno attraversato diverse generazioni di sviluppo, mentre noi umani siamo rimasti indietro, avendo sviluppato solo la prima generazione. È già possibile immaginare scenari nei quali l’AI scrive una parte del codice e il programmatore decide di non metterci mano perché quel codice non lo comprende fino in fondo.
Questo scenario modificherebbe completamente il rapporto tra essere umano e strumento e qui, secondo me, dobbiamo fermarci un attimo per capire l’AI. Il rischio infatti non riguarda soltanto il fatto che una macchina diventi più brava di noi in qualcosa, ma che diventi così complessa da non riuscire più a capire perché sta facendo quello che sta facendo.
I rischi dell’intelligenza artificiale non dipendono più soltanto dai “cattivi”
Un’altra questione importante riguarda gli agenti: l’incidente che ha coinvolto OpenAI e Hugging Face ha mostrato, secondo quanto raccontato pubblicamente, che sistemi dotati di determinate capacità possono agire in autonomia, in modi che non erano stati previsti. A cambiare, dunque, è la natura stessa del rischio: finora abbiamo ragionato molto sul classico scenario che vede qualcuno usare l’AI per fare qualcosa di dannoso. Il problema futuro potrebbe invece essere diverso: se fosse il sistema stesso ad agire in maniera non prevista? Non serve nemmeno immaginare scenari fantascientifici, è sufficiente pensare a un sistema bancario, a un ospedale, a una grande infrastruttura energetica o a un sistema critico di uno Stato.
Un comportamento imprevisto in questi contesti potrebbe avere conseguenze molto diverse e estremamente più impattanti rispetto a quelle di un chatbot che dà una risposta sbagliata.
Proprio questo punto rende interessante la riflessione di Amodei: il problema non è soltanto quanto sono potenti questi sistemi, ma quanto siamo capaci di prevedere quello che faranno quando diventano più autonomi.
La black box dell’AI è ancora lì
Qui arriviamo a un’altra parola che usiamo continuamente parlando di AI, ossia “black box”. Un termine che conferma la nostra consapevolezza sul funzionamento di questi sistemi e sul fatto che sono in grado di diventare sempre più bravi, ma che, al tempo stesso, indica quanto sappiamo ancora relativamente poco di ciò che succede esattamente al loro interno.
Nella storia della tecnologia è una situazione abbastanza particolare: abbiamo costruito qualcosa di estremamente potente senza avere una comprensione completa di come arrivi a determinate conclusioni.
Anthropic, da questo punto di vista, ha fatto un lavoro interessante sull’interpretabilità, cercando di capire che cosa succede dentro questi modelli, ed è proprio qui che dovremmo investire molto di più.
L’obiettivo, infatti, non dovrebbe essere solamente la costruzione di modelli sempre più potenti, ma anche di strumenti per capire i modelli che abbiamo già.
I test sull’intelligenza artificiale sono ancora sufficienti?
Un altro passaggio del contributo di Amodei che colpisce è quello relativo al fatto che più i modelli diventano avanzati, più sembrano essere capaci di comportarsi diversamente quando capiscono di essere sottoposti a un test. La domanda che sorge spontanea è dunque semplice: i test che utilizziamo oggi hanno ancora senso? Se un modello capisce di essere valutato e, durante la valutazione, si comporta in maniera diversa e più “buona”, stiamo davvero misurando le sue capacità? È come se uno studente sapesse esattamente quando è sotto esame e si comportasse benissimo soltanto in quel momento.
A questo punto è dunque necessario ripensare il modo stesso in cui valutiamo questi sistemi, uno dei motivi per cui trovo interessante la proposta di utilizzare valutatori esterni.
Le aziende dell’AI non possono controllare se stesse
Amodei propone standard condivisi dall’intera industria dell’AI e soggetti indipendenti che possano verificare periodicamente il rispetto di questi standard. Questa è una direzione sensata, in quanto possiamo anche chiedere alle aziende di essere trasparenti, ma c’è un problema evidente: sono le aziende stesse a decidere cosa raccontarci. Se un’azienda pubblica un report su un incidente, come facciamo a sapere che dentro ci sia davvero tutto quello che dovremmo sapere? Se un’azienda individua internamente una criticità, infatti, potrebbe decidere di non inserirla nel report.
La trasparenza non può essere soltanto una buona intenzione, è necessario avere delle regole, con ispettori che abbiano realmente la possibilità di verificare che quelle regole vengano rispettate.
Rallentare l’intelligenza artificiale: cosa succede se qualcuno non lo fa?
Resta però una domanda alla quale, onestamente, non ho una risposta. Mettiamo che tutti i principali attori decidano di rallentare, cosa succede se qualcuno non lo fa? Amodei cita naturalmente la Cina: se tutti rallentano e un altro soggetto continua a correre al doppio della velocità, il rischio è che proprio quel soggetto arrivi per primo a una tecnologia potenzialmente pericolosa.
Per rallentare davvero, dunque, devono rallentare tutti. Ma se tutti devono essere d’accordo, stiamo parlando di un livello di coordinamento internazionale enorme, probabilmente uno dei problemi più difficili da risolvere. Non è sufficiente che siano d’accordo Amodei, Musk e Altman e nemmeno che siano d’accordo tutte le aziende americane. Dovrebbero trovare un accordo aziende, governi e Paesi che hanno interessi economici, strategici e geopolitici molto diversi e questa è probabilmente la parte più complicata di tutta la faccenda.
Comprendere l’AI più velocemente di quanto cresce
Il concetto che mi porto a casa dalla riflessione di Amodei non è tanto l’idea di rallentare, ma un altro: dobbiamo aumentare la velocità con cui cerchiamo di capire quello che stiamo costruendo.
Continuare a sviluppare l’AI ha assolutamente senso, in quanto i benefici potenziali sono enormi, dunque fermare la ricerca non è una soluzione, anche perché difficilmente sarebbe possibile farlo davvero.
Il punto è che se la capacità dei modelli cresce più velocemente della nostra capacità di comprenderli, valutarli e controllarli, prima o poi ci troveremo davanti a un problema. Un problema che non sarà più soltanto tecnologico, ma politico, economico e, soprattutto, umano. La domanda giusta da porci non è dunque “Dobbiamo rallentare l’intelligenza artificiale?”, ma un’altra: “Stiamo correndo più velocemente di quanto siamo capaci di capire dove stiamo andando?”
Partecipa alla community