AI che crea altra AI: il traguardo è più vicino, che significa per tutti noi

In Anthropic il 26% del lavoro di ricerca e sviluppo è guidato dall’intelligenza artificiale, secondo il dato di agosto 2026, l’ultimo disponibile. Cinque mesi prima la quota era dell’1%.

Questo dato all’apparenza tecnico ha implicazioni profonde e non a caso sta occupando la discussione della community degli esperti di AI in questo periodo.

Sistemi AI iniziano ad assumere un ruolo operativo nella progettazione dei propri successori. Se il processo accelererà ancora, governi, imprese e comunità scientifica potrebbero trovarsi a valutare tecnologie che cambiano più rapidamente dei tempi necessari per comprenderle e regolarle. E’ il traguardo – spettro o promessa a seconda dei punti di vista – del recursive self improvement, di cui si parla già dagli anni ’50, agli albori dell’AI.

Attenzione, non ci siamo arrivati ancora. L’AI guida il 26 per cento delle attività in Claude, svolge la maggior parte dei passaggi a partire da un obiettivo generale, mentre un ricercatore continua a supervisionare e approvare il risultato. La quota di lavoro classificata come completamente autonoma è invece ancora pari a zero.

Il cosiddetto miglioramento ricorsivo pienamente autonomo richiede quest’ultimo passaggio, tanto all’apparenza vicino quanto forse ancora lontanissimo.

La progressione è comunque evidente: 1% delle attività guidate dall’AI in marzo, 3% in aprile, 12% in maggio, 14% in giugno, 22% in luglio e 26% in agosto.

Che cosa significa miglioramento ricorsivo dell’AI

Per capire perché l’accelerazione abbia una portata pubblica bisogna vedere quali decisioni vengono delegate. Lo sviluppo di un modello comprende la scrittura del software di addestramento, la scelta e l’esecuzione degli esperimenti, la ricerca di difetti, la valutazione dei risultati e la progettazione delle modifiche successive. Se un agente compie più rapidamente gran parte di questo lavoro, un laboratorio può provare più ipotesi in meno tempo. Se il modello migliorato risulterà poi capace di assistere esperimenti ancora più complessi, il ciclo potrebbe acquistare velocità.

Costruire un modello richiede migliaia di decisioni: preparare i dati, scrivere il software di addestramento, lanciare esperimenti, correggere errori, confrontare i risultati, scegliere quali modifiche provare. Sono attività che impegnano interi gruppi di ricercatori e ingegneri. Gli agenti AI stanno prendendo in carico una parte crescente di quel lavoro.

Immaginiamo un programma usato durante l’addestramento che smette di funzionare. Un ingegnere affida a Claude il compito di trovare il problema. L’agente esamina il codice, propone una correzione, esegue i test e presenta il risultato. L’ingegnere controlla e decide se adottarla. È il livello di automazione che Anthropic chiama AL4, «AI leads»: l’AI guida l’attività, la persona resta responsabile dell’esito.

Se decine di attività come questa richiedono meno tempo, il laboratorio può provare più soluzioni. Se il modello successivo diventa più abile nello scrivere codice, analizzare esperimenti e trovare errori, potrà aiutare a sviluppare quello dopo ancora. È così che il progresso potrebbe alimentare se stesso.

Il salto più difficile arriverà quando un sistema saprà anche scegliere le direzioni della ricerca, decidere quali esperimenti meritano risorse e costruire un modello più avanzato senza un ricercatore a guidarlo. Su questo scenario si interrogano ormai i grandi laboratori. Nel suo intervento del 6 settembre 2026, Jakub Pachocki, chief scientist di OpenAI, ha chiesto soglie di sicurezza condivise e coordinamento internazionale, fino a prospettare rallentamenti volontari della corsa ai modelli più potenti.

Il 26% è un dato di Anthropic. Chi lo verifica?

Anthropic ha costruito un indice per misurare quanta ricerca affida a Claude. A luglio ha esaminato il lavoro di un campione di dipendenti, ricavandone circa 15.000 attività. Le ha raggruppate in categorie che vanno dall’assenza di AI alla completa autonomia e ha valutato quanto Claude fosse coinvolto in ciascuna. Per confrontare i mesi ha mantenuto stabile l’insieme delle attività e ha dato più peso a quelle che richiedevano più lavoro umano.

La classificazione è stata svolta in buona parte da Claude stesso. Anthropic ha confrontato i giudizi del modello con quelli di ricercatori umani: nel 59% dei casi coincidevano esattamente, nel 97% differivano al massimo di un livello. C’è dunque spazio per discutere quando un agente «collabora» e quando invece «guida» un’attività. I dati descrivono il lavoro di quel laboratorio, secondo la sua metodologia.

Il problema diventerà più importante man mano che le quote cresceranno. Se l’AI accelera la ricerca, autorità e cittadini devono poter capire quanto velocemente sta accelerando. Per confrontare Anthropic, OpenAI, Google e gli altri serviranno criteri comuni e verifiche esterne, con accesso ai dati interni necessari e protezione dei segreti industriali.

Nel rapporto indipendente pubblicato da Metr nel maggio 2026, Anthropic, Google, Meta e OpenAI hanno aperto ai valutatori parte delle proprie informazioni interne, inclusi i sistemi usati per controllare gli agenti. È una strada per osservare la ricerca mentre si svolge, prima che arrivi sul mercato il modello successivo.

Trentamila agenti al lavoro: chi può fermarli?

Nel laboratorio di Anthropic la supervisione ha già assunto dimensioni industriali. Nell’agosto 2026, sulla sua piattaforma interna più utilizzata, lavoravano circa 30.000 agenti contemporaneamente, impegnati in ricerca e ingegneria. Alcuni scrivono software, altri eseguono test, cercano informazioni o comunicano con altri agenti. Le persone assegnano gli obiettivi; i sistemi si occupano di molti passaggi intermedi.

Per sorvegliarli, Anthropic sottopone ogni azione della piattaforma a un controllo automatico prima dell’esecuzione e registra le attività per analizzarle dopo. Ad agosto, su oltre un miliardo di decisioni esaminate, i controlli preventivi ne hanno bloccato lo 0,002%, circa una su 47.000. I controlli successivi portano all’esame umano una cinquantina di casi prioritari alla settimana.

Questi numeri mostrano come cambia il lavoro di chi deve garantire la sicurezza: un essere umano non può seguire in tempo reale 30.000 agenti. Può però decidere quali operazioni permettere, fissare limiti di accesso, chiedere un’autorizzazione prima delle azioni delicate e interrompere il sistema quando un controllo rileva un pericolo. Anche il monitoraggio automatico va messo alla prova: è lui a scegliere quali comportamenti fermare e quali portare all’attenzione delle persone.

Lo stesso problema raggiungerà le organizzazioni che affideranno agli agenti pagamenti, gestione di infrastrutture, attività sanitarie o servizi pubblici. Un agente con accesso a dati e sistemi può agire molto velocemente. I permessi, i blocchi e le responsabilità devono essere decisi prima che inizi a lavorare. Un controllo umano che arriva soltanto dopo il danno serve a ricostruire l’errore, non a impedirlo.

Quanta potenza di calcolo va alla sicurezza

Per sviluppare modelli e agenti servono anche processori, data center ed energia. Anthropic ha esaminato una settimana di attività, dal 13 al 20 luglio 2026, per capire dove impiegava le proprie risorse. Secondo la sua classificazione, il 6% del calcolo dedicato alla ricerca AI andava alla sicurezza. Tra le sole attività di ricerca svolte con l’AI, la quota saliva al 12%.

La società propone di rendere pubblici anche questi numeri, usando definizioni condivise. I processori consumati offrono una misura delle risorse dedicate ai test, mentre molte attività di sicurezza richiedono soprattutto il lavoro degli specialisti. Con serie confrontabili nel tempo diventerebbe possibile vedere come i laboratori dividono gli investimenti tra modelli più capaci e ricerca sui rischi.

Quanto calcolo viene dedicato alla sicurezza

La velocità dell’AI dipende anche dalla disponibilità di calcolo, quindi dai data center e dalle risorse economiche che consentono di eseguire esperimenti. Per misurare un’altra dimensione del controllo, Anthropic ha analizzato i carichi dei propri acceleratori in una settimana, dal 13 al 20 luglio 2026. Secondo la classificazione aziendale, circa il 6% del calcolo destinato alla ricerca AI era impiegato per attività di sicurezza. Considerando soltanto il calcolo utilizzato dalla ricerca AI condotta con AI, la quota per la sicurezza risultava pari al 12%.

Le due percentuali hanno denominatori differenti e non vanno sommate. Inoltre il tempo di calcolo non misura direttamente la qualità o l’efficacia della sicurezza: una ricerca teorica può impiegare esperti per mesi e consumare pochi acceleratori, mentre l’addestramento di un grande modello ne richiede moltissimi. La fotografia di una settimana non basta a descrivere un andamento. Rende però possibile una domanda verificabile anche da regolatori e valutatori: come si distribuiscono le risorse tra sviluppo delle capacità e analisi dei rischi?

Gli indicatori pubblicati da Anthropic e i loro limiti

Fonte: Anthropic, Measurements for understanding the pace of AI development inside frontier labs, rilevazioni luglio-agosto 2026. Dati e definizioni dichiarati dall’azienda.

Questi indicatori mostrano quali informazioni siano tecnicamente raccoglibili, ma anche perché non sia sufficiente pubblicare un numero isolato. Per stabilire se la ricerca automatizzata sta diventando più sicura occorre seguire serie confrontabili nel tempo e controllare indipendentemente le definizioni, la qualità del monitoraggio e le condizioni che hanno portato a un blocco o a un incidente.

L’AI Act e la sfida di governare la velocità dei laboratori

L’Unione europea ha già uno strumento giuridico per affrontare parte del problema. L’articolo 51 dell’AI Act individua i modelli per finalità generali con rischio sistemico sulla base di capacità elevate, presunte oltre una soglia di calcolo impiegato per addestrarli, oppure di una designazione della Commissione. Per i fornitori di questi modelli l’articolo 55 prevede valutazioni e test avversariali, mitigazione dei rischi sistemici, segnalazione di incidenti gravi e cybersicurezza. Sono obblighi riferiti a quella categoria, non indistintamente a tutti gli strumenti che utilizzano l’intelligenza artificiale.

Le misure elaborate da Anthropic possono contribuire a rendere questi controlli più informati, ma l’AI Act non impone in modo specifico di pubblicare ogni mese un indice delle attività di ricerca delegate agli agenti. È qui che si apre una questione ulteriore per la politica europea: capire se e come valutatori indipendenti e autorità debbano poter osservare anche il processo con cui vengono creati i modelli, non soltanto le prestazioni e i rischi documentati al momento del rilascio.

Una risposta possibile consisterebbe nel definire indicatori comparabili tra laboratori, garantire accesso controllato agli auditor, richiedere la verifica dei sistemi che sorvegliano gli agenti e stabilire quando un aumento delle capacità debba comportare ulteriori test.

Per avere valore, dovrebbero rendere trasparente ciò che serve a valutare il rischio senza obbligare i fornitori a pubblicare codice, dati o dettagli di sicurezza sfruttabili da terzi.

La dimensione europea è anche economica e geopolitica. Se i modelli più capaci aiutano a progettare quelli successivi, chi possiede infrastrutture di calcolo, ricercatori, dati sperimentali e capacità di test può accumulare vantaggi sempre più difficili da colmare. Per l’Europa l’accesso ai supercomputer e lo sviluppo di competenze sono condizioni importanti; conta altrettanto poter verificare il funzionamento dei modelli di frontiera da cui dipendono imprese e amministrazioni, anche quando vengono sviluppati fuori dall’Unione.

Ricerca scientifica, lavoro e responsabilità: la posta in gioco

Una ricerca AI più rapida può aiutare a esplorare più soluzioni per problemi scientifici, dalla progettazione di materiali all’analisi di ipotesi biomediche. Ma produrre più ipotesi non equivale a dimostrarne la correttezza: esperimenti, dati affidabili, prove cliniche e verifiche indipendenti mantengono tempi e responsabilità propri. L’accelerazione potrebbe spostare i colli di bottiglia verso le fasi in cui è indispensabile il confronto con la realtà.

Lo stesso vale per il lavoro qualificato. Se gli agenti svolgono più rapidamente compiti di programmazione e ricerca, può cambiare ciò che viene chiesto a ingegneri e ricercatori: meno esecuzione manuale di alcune operazioni, più progettazione degli esperimenti, verifica dei risultati e responsabilità delle scelte. Potrebbero cambiare anche i percorsi di formazione dei profili junior, che spesso imparano proprio dai compiti iniziali ora delegabili alle macchine. L’indice di Anthropic, però, non permette di dedurre quanti occupati perderanno il lavoro o quale sarà il bilancio tra nuovi ruoli e sostituzioni.

Perfino quantificare i guadagni immediati è difficile. L’organizzazione indipendente Metr ha spiegato nel febbraio 2026 che i nuovi esperimenti sull’uso degli agenti da parte di sviluppatori mostravano possibili miglioramenti, ma erano condizionati da forti distorsioni del campione: chi trova l’AI più utile tendeva a non voler lavorare senza. La velocità di esecuzione di una singola attività non misura da sola il valore complessivo prodotto, e risultati ottenuti in un laboratorio di frontiera non descrivono automaticamente un ospedale o un ufficio pubblico.

Il progresso verso un’AI capace di contribuire al proprio sviluppo chiede quindi di separare tre questioni: quanto velocemente cresce il ruolo operativo degli agenti, quanto possiamo fidarci delle misure che lo descrivono e chi ha la possibilità di intervenire quando qualcosa non funziona. Il dato del 26% di Anthropic ci dice sulla prima trasformazione; le altre due sono il terreno su cui si deciderà la qualità della risposta pubblica.

Vale la pena ribadire cosa c’è in ballo. Governare la ricerca automatizzata significa poterla valutare in base a finalità umane e in aderenza ai nostri valori. E, quando necessario, poter fermare un processo prima che i suoi effetti siano irreversibili.