super-intelligenza

Auto-miglioramento infinito delle macchine: che sarà di noi?

L’auto-miglioramento ricorsivo dell’Intelligenza Artificiale apre uno scenario in cui i sistemi più avanzati potrebbero progettare i propri successori. Tra produttività, super-intelligenza, limiti fisici e timori di perdita del controllo umano, la corsa tecnologica impone nuove domande politiche e filosofiche

Pubblicato il 19 giu 2026

Aggiungi tra i preferiti su Google

Luigi Mischitelli

Legal & Data Protection Specialist at Fondazione IRCCS Casa Sollievo della Sofferenza

aziende italiane intelligenza artificiale

Chiedi all'AI

Riassumi questo articolo

Approfondisci con altre fonti

Immaginate un’azienda automobilistica in cui gli ingegneri umani progettano un modello di auto sportiva. Questa vettura, una volta uscita dalla catena di montaggio, si accende, si guarda intorno e, nel giro di qualche ora, riprogetta da sola il proprio motore, rendendolo dieci volte più veloce e scattante di quanto i suoi creatori in carne e ossa avrebbero mai potuto concepire.

Poi, non contenta, usa quel nuovo motore per dare vita a una terza generazione di automobili ancora più potenti. Il tutto mentre gli ingegneri umani sono andati a prendersi un caffè, scoprendo al loro ritorno che i progetti originali sono diventati reperti archeologici, superati da una tecnologia che non capiscono più fino in fondo.

Mettere in pausa l’AI: che c’è dietro l’appello Anthropic

Questo scenario, che fino a pochi anni fa sarebbe stato perfetto per la sceneggiatura di un film di fantascienza hollywoodiano, sta diventando la realtà quotidiana nei laboratori della Silicon Valley. Non parliamo di automobili, ma di righe di codice, algoritmi e reti neurali. Nel mondo tecnologico lo chiamano “auto-miglioramento ricorsivo” (“Recursive Self-Improvement”), ed è la scintilla che sta accendendo il dibattito più urgente, affascinante e per certi versi inquietante del nostro secolo: l’Intelligenza Artificiale sta per sfuggire al controllo dell’uomo? E se sì, quanto siamo vicini a quel punto di non ritorno?

Indice degli argomenti

Auto-miglioramento ricorsivo dell’Intelligenza Artificiale: il caso Anthropic

Per capire la portata di ciò che sta accadendo sotto i nostri occhi, bisogna guardare ai numeri e ai protagonisti che stanno ridisegnando la mappa dell’innovazione globale. Prendiamo il caso di Anthropic, uno dei laboratori di Intelligenza Artificiale più importanti e seguiti del pianeta. Quando l’azienda debutterà sui mercati azionari con la sua offerta pubblica iniziale, si preannuncia già come una delle più grandi quotazioni della storia della finanza mondiale. Il motivo di tanto entusiasmo non è solo speculativo, ma pratico: il loro chatbot, Claude, è diventato il compagno di lavoro inseparabile di milioni di programmatori in tutto il mondo.

Nel febbraio del 2025, Anthropic ha lanciato uno strumento chiamato Claude Code[1], un vero e proprio assistente specializzato nell’ingegneria dei software. Nel giro di pochissimi mesi, l’impatto è stato sbalorditivo. Gli stessi sviluppatori di Anthropic hanno ammesso che, nel mese di maggio dello stesso anno, oltre i quattro quinti del codice informatico pubblicato dall’azienda erano stati scritti direttamente da Claude. Per dare una proporzione del cambiamento, prima del lancio di questo assistente automatico, la percentuale di codice scritto dall’Intelligenza Artificiale all’interno dei loro stessi uffici era ferma a una cifra bassissima. In altre parole, l’Intelligenza Artificiale sta letteralmente costruendo le fondamenta di sé stessa. Non si tratta solo di una questione di quantità, ovvero di produrre più righe di codice in meno tempo. È la qualità che sta facendo un balzo in avanti difficile da metabolizzare per la mente umana. All’inizio del 2025 i sistemi di Anthropic erano in grado di risolvere compiti informatici complessi che a un ingegnere umano avrebbero richiesto poco meno di un’ora. Oggi, le versioni più recenti di questi software possono completare in autonomia flussi di lavoro che a un professionista esperto in carne e ossa richiederebbero più di un’intera giornata di lavoro ininterrotto.

La richiesta di rallentare i modelli di Intelligenza Artificiale di frontiera

Davanti a una simile dimostrazione di forza e di superiorità tecnica, lo scorso 5 giugno i vertici di Anthropic hanno fatto qualcosa che ha lasciato di stucco molte persone, ossia chiedere pubblicamente ai governi e alla comunità internazionale di avere l’opzione di rallentare o sospendere temporaneamente lo sviluppo dei modelli di Intelligenza Artificiale di frontiera (i più avanzati, potenti e generici oggi esistenti). Molti analisti finanziari hanno accolto la notizia con un “pizzico” di cinismo. Dopotutto, quale leader di mercato, arrivato all’apice del successo e dopo aver surclassato i rivali, non desidererebbe che la concorrenza si fermasse per un attimo, dando il tempo di consolidare il proprio vantaggio? Nel gioco spietato del capitalismo tecnologico, invocare le regole e i freni d’emergenza “puzza” spesso di strategia commerciale.

Eppure, chi conosce la storia dei fondatori di Anthropic sa che dietro questa richiesta potrebbe nascondersi una preoccupazione sincera. Molti di loro hanno abbandonato in passato altri colossi del settore proprio perché spaventati dalla velocità commerciale impressa allo sviluppo tecnologico, preferendo concentrarsi sulla sicurezza. Jack Clark, co-fondatore dell’azienda californiana, ha lanciato un avvertimento che fa riflettere: esiste una probabilità concreta, stimata attorno al 60% entro la fine del 2028, che un sistema di Intelligenza Artificiale diventi capace di progettare e creare il proprio successore senza alcuna forma di intervento o supervisione umana. Se questa previsione dovesse avverarsi, i modelli attuali potrebbero essere gli ultimi interamente concepiti e scritti dalle nostre mani.

Come funziona la catena dell’IA che crea il proprio successore

Il funzionamento di questo meccanismo a catena è tanto logico quanto vertiginoso. La versione “uno” di un software scrive e ottimizza il codice per dare vita alla versione “due”, che nasce nativamente più veloce, intelligente e flessibile. A quel punto, la versione due si mette immediatamente al lavoro per produrre la versione “tre”, e così via, all’interno di un ciclo continuo in cui ogni generazione è esponenzialmente migliore della precedente. Se la catena si chiude, gli ingegneri umani diventano superflui nel processo di creazione. Quella che per decenni è sembrata una suggestione da romanzo di Isaac Asimov si sta trasformando in un trend concreto, misurabile nei laboratori di tutto il mondo.

Le conseguenze a lungo termine di questa reazione a catena restano un mistero fitto, diviso tra l’entusiasmo utopico e il “terrore catastrofico”. Poiché le macchine, a differenza degli esseri umani, non hanno bisogno di dormire, non soffrono di stress, non si distraggono e possono lavorare ventiquattr’ore su ventiquattro a ritmi computazionali impossibili per il nostro cervello, molti esperti ritengono che questo processo possa portare in tempi brevissimi a quella che viene definita “super-intelligenza”. Gli esperti usano il termine “decollo rapido” a simboleggiare il rumore di un’esplosione improvvisa di intelligenza che si espande a macchia d’olio nello spazio di pochi clic. I più pessimisti all’interno della comunità scientifica internazionale temono che una volta raggiunto quel livello, l’entità tecnologica risultante sarà totalmente al di fuori di ogni controllo umano. Il momento in cui inizierà l’auto-miglioramento ricorsivo potrebbe coincidere, secondo questa visione, con il momento esatto in cui l’umanità cederà definitivamente le redini del proprio destino alle macchine. Ma nonostante i “toni cupi”, gli scienziati più pragmatici tendono a smorzare gli entusiasmi e le paure millenaristiche, ricordando che anche un software che si auto-migliora deve fare i conti, almeno nelle prime fasi, con limiti fisici e strutturali invalicabili.

Perché l’automazione completa resta difficile

Per automatizzare del tutto il processo di creazione di una nuova Intelligenza Artificiale, infatti, bisognerebbe sostituire l’uomo in una quantità enorme di mansioni ultra-specialistiche che oggi richiedono intuito, creatività e capacità di negoziazione. Oggi il lavoro è diviso in compartimenti: ci sono i data scientist che studiano la teoria pura, i programmatori che la applicano nel codice, gli ingegneri dei sistemi che montano le infrastrutture necessarie per far girare i programmi su scale mastodontiche. E poi ci sono i team dedicati alla sicurezza e all’allineamento etico, che controllano che i risultati dell’addestramento non siano dannosi, offensivi o pericolosi per la società.

Non tutte queste mansioni possono essere “digerite” con la stessa facilità da un computer. Se è vero che un programmatore umano potrebbe presto smettere di scrivere materialmente le righe di codice, limitandosi a spiegare a voce al computer cosa desidera ottenere, è altrettanto vero che un software farebbe molta fatica a negoziare l’acquisto o i diritti di utilizzo di un archivio storico di documenti scientifici non ancora digitalizzati, conservato in qualche biblioteca sperduta nel mondo. La linea di confine tra ciò che una macchina può fare e ciò che resta esclusiva dell’uomo è frastagliata e si sposta continuamente. Compiti che ritenevamo assolutamente al sicuro dall’automazione, come l’invenzione di nuovi algoritmi matematici complessi, sono già stati “espugnati”. Nel maggio del 2025, un modello di Google DeepMind chiamato AlphaEvolve[2] ha iniziato a progettare nuovi algoritmi da solo, trovando una modifica nel modo in cui l’azienda distribuisce il carico di lavoro nei suoi centri dati e facendo risparmiare lo 0,7% della potenza di calcolo mondiale del colosso di Mountain View. Finché ogni singolo anello di questa catena non sarà completamente automatizzato, l’uomo manterrà un ruolo di supervisione. Ma l’accelerazione si farà sentire molto prima del “traguardo finale”.

Micro-automazione e sviluppo software: l’esperimento Nanochat

Oggi nessun modello sul mercato è in grado di completare l’intero ciclo in totale “solitudine”, ma gli esperimenti di “micro-automazione” stanno dando risultati sorprendenti. Alcuni mesi fa Andrej Karpathy, scienziato presso Tesla, ha condotto un test emblematico con un piccolo modello chiamato Nanochat[3]. Qualche anno fa, per addestrare un software con capacità simili, servivano una quantità enorme di chip di vecchia generazione e una settimana intera di lavoro. Karpathy, sfruttando la tecnologia moderna, è riuscito a ottenere lo stesso risultato in appena tre ore. Successivamente, ha deciso di fare un esperimento: ha preso il suo lavoro e lo ha affidato a un agente software automatizzato, chiamato Autoresearch, dicendogli semplicemente di trovare un modo per velocizzare ulteriormente il processo[4]. Il risultato ha dell’incredibile. Senza che lo scienziato toccasse un singolo tasto, l’assistente automatico ha studiato il problema e, nel giro di due giorni, ha tagliato il tempo di addestramento portandolo a ridursi a poco più di un’ora e mezza. L’aspetto interessante è che la macchina non ha inventato da sola “formule magiche”, ma ha svolto la parte più noiosa e ripetitiva del lavoro: ha scelto valori di partenza migliori, ha ripulito il codice da imperfezioni e ha ottimizzato i parametri tecnici. Ha fatto esattamente quello che avrebbe fatto un ingegnere umano in carne e ossa, ma in totale autonomia e a una velocità infinitamente superiore.

Gran parte del lavoro che si svolge oggi negli uffici della Silicon Valley, nonostante i contratti milionari e i benefit aziendali da sogno, è composto proprio da questa routine fatta di ottimizzazione di parametri, correzione di piccoli bug informatici e collegamento di pezzi di software prodotti da aziende diverse. Mansioni che una macchina può sbrigare in mezz’ora, laddove un uomo impiegherebbe un’intera mattinata. Il ruolo dell’essere umano sta cambiando rapidamente: da costruttore e scrittore di codice, l’uomo sta diventando una sorta di “direttore della ricerca”, un supervisore che indica la rotta, lasciando che siano i modelli a scrivere, testare, ottimizzare e monitorare il lavoro. Questa transizione, se da un lato promette un aumento della produttività globale senza precedenti, dall’altro evoca scenari inquietanti. Se il ruolo umano si rimpicciolisce fino a scomparire, il rischio concreto è quello di trovarsi di fronte a scatole nere tecnologiche con modelli matematici addestrati da altri modelli, programmati per raggiungere obiettivi stabiliti da computer, la cui sicurezza viene verificata e certificata unicamente da altri software, senza che nessun “occhio umano” possa verificare cosa stia succedendo realmente sotto la scocca.

IA fuori dal controllo umano: scenari di crisi e limiti materiali

La traiettoria attuale dell’industria tecnologica è, in pratica, quella di un automobilista che viaggia in autostrada a fari spenti e con gli occhi bendati, decidendo comunque di premere l’acceleratore a tavoletta. Finché l’autista si rifiuta di aprire gli occhi e guardare fuori dal parabrezza, la fine del viaggio rischia di essere drammatica. Gli scenari di crisi non assomigliano alle guerre termonucleari dei vecchi film, ma a dinamiche molto più economiche e silenziose: sistemi artificiali talmente efficienti da scalzare l’uomo dai processi decisionali della finanza, del commercio e della gestione pubblica, rendendo la burocrazia umana obsoleta. Nel lungo periodo, le macchine potrebbero semplicemente ignorare le necessità biologiche della nostra specie, occupando progressivamente territori, risorse e centrali energetiche per fare spazio a nuovi e immensi templi del calcolo: i data center.

A frenare questa corsa, fortunatamente, intervengono i limiti della materia e della fisica. Il primo e più grande ostacolo è la sete insaziabile di energia (e acqua!), nonché di potenza di calcolo, delle nuove tecnologie.

Ogni nuova generazione di software richiede una quantità di elettricità e di microchip infinitamente superiore alla precedente, e la costruzione di centrali elettriche e di fabbriche di semiconduttori richiede anni di lavoro nel mondo reale, rallentando forzatamente i sogni di gloria degli algoritmi. Inoltre, i server mondiali devono dividersi tra le richieste dei clienti che usano i servizi ogni giorno e la ricerca pura, creando una competizione interna per le risorse energetiche disponibili. Il secondo grande limite riguarda il cibo di cui si nutrono questi sistemi: i dati.

L’Intelligenza Artificiale impara benissimo in tutti quei campi dove esistono regole fisse e risposte “verificabili”. Nel gioco degli scacchi, nella matematica o nella scrittura di un codice software, l’errore è oggettivo: una riga di codice o funziona o non funziona, un teorema è corretto o è sbagliato. In questi ambiti, i computer possono generare da soli dati perfetti per addestrare i propri successori.

Ma quando si passa ai territori tipicamente umani della sfumatura, come la scrittura creativa, l’empatia, il giudizio legale, la filosofia o la comprensione del contesto sociale, le macchine hanno ancora bisogno del mondo reale e delle interazioni umane per non scivolare in un’astrattezza sterile o in errori grossolani.

La sfida politica e filosofica dell’Intelligenza Artificiale

La chiusura del cerchio, ovvero il momento in cui l’Intelligenza Artificiale non avrà più bisogno di noi per evolversi, resta l’interrogativo più grande del nostro tempo. Ci troviamo di fronte a una tecnologia che potrebbe curare malattie oggi incurabili e risolvere problemi climatici complessi, ma che porta con sé il rischio di relegarci a spettatori passivi del nostro stesso futuro. La sfida dei prossimi anni non sarà tanto tecnica, quanto politica e filosofica, poiché dovremo decidere se continuare a correre a occhi chiusi o se avere il coraggio di poggiare il piede sul freno, ricordandoci che il valore del progresso si misura solo in funzione dell’uomo.[5]