Un agente AI può leggere la letteratura scientifica, configurare ambienti di calcolo, eseguire centinaia di esperimenti e produrre una bozza di paper. Può farlo senza assistenza umana diretta e con una velocità che riduce il tempo necessario a svolgere una parte rilevante del lavoro di ricerca.
Quando però deve decidere quale ipotesi meriti ulteriore investimento, stabilire se l’evidenza raccolta è sufficiente o cambiare radicalmente direzione, l’AI fallisce.
È il risultato del nuovo studio di Peter Kirgis, Sayash Kapoor e altri 22 autori, pubblicato su arXiv l’11 agosto.
Si rivela così quello che è forse il più grande limite intrinseco dell’attuale frontiera AI-large language model, quella basata su tecnologie transformer: l‘incapacità di giudizio, gusto, intuito e creatività. Quattro fattori correlati. Alla stessa conclusione è giunto di recente il premio nobel Demis Hassabis, fondatore (e ora presidente) di Google Deepmind.
Attenzione: significa che questi stessi valori ora sono prerogativa di nuovi umani. Questa conclusione insomma ha conseguenze importanti sia sul modo in cui possiamo utilizzare l’AI sia sul ruolo che l’umano può ritagliarsi.
Beninteso, la ricerca non sostiene che gli LLM siano incapaci di contribuire alla scienza. Anzi: sul punto è indubbio che l’AI vi stia già giovando in vari modi.
Ma lo studio evidenzia l’incapacità di condurre una ricerca aperta, dove l’obiettivo non coincide con l’ottimizzazione di una metrica già definita e dove la qualità emerge dal confronto fra ipotesi, esperimenti, risultati e contesto disciplinare.
L’incapacità si mostra insomma ogni volta in cui vero e falso sono elementi oggettivi, immediatamente verificabili. Al rovescio, è il motivo per cui l’AI ora funziona molto bene con la programmazione, dove il codice o si esegue o dà errore, subito. Ma anche lì le scelte architetturali e di contesto applicativo richiedono quelle stesse prerogative umane.
Indice degli argomenti
Che cosa misura la ricerca aperta degli LLM
Gli autori hanno ideato una “shadow evaluation”. Hanno affidato a un agente la domanda centrale di due paper sottoposti a NeurIPS 2026 e non ancora pubblici, quindi non rintracciabili sul web né memorizzabili nei dati di addestramento. Gli autori originali dei paper hanno poi valutato il risultato dell’agente con criteri analoghi a quelli di una conferenza scientifica.
A ciascun sistema sono stati assegnati sei giorni, crediti API per migliaia di dollari, risorse GPU, una macchina virtuale e accesso al web. I problemi riguardavano il controllo delle personalità nei modelli linguistici e il rilevamento del deterioramento delle prestazioni dei modelli tabellari quando cambia la distribuzione dei dati.
Gli agenti hanno completato il lavoro di ricerca ingegneristico: revisioni della letteratura, gestione delle GPU, esperimenti, controlli di robustezza, recupero di revisioni esterne e scrittura dei manoscritti. I due elaborati sono però stati respinti dai ricercatori che conoscevano a fondo le domande scientifiche. Le valutazioni hanno rilevato dati e test poco motivati, conclusioni più ampie delle evidenze disponibili, contributi limitati e testi che rendevano difficile distinguere ciò che contava dal rumore.
L’esperimento è piccolo: due problemi, poche esecuzioni e valutatori consapevoli dell’origine artificiale dei paper. Gli autori rendono espliciti questi limiti, compreso il rischio di bias nella scelta dei casi e nella revisione non anonima. Hanno inoltre ripetuto una prova con un modello e un ambiente operativo differenti, ritrovando molti degli stessi comportamenti. Il risultato va letto come evidenza iniziale, non come una legge generale sulle capacità degli LLM.
Il giudizio come ultima frontiera dell’umano
La parte più interessante non è l’errore tecnico, ma il comportamento degli agenti quando incontrano un ostacolo. I sistemi hanno generato ipotesi iniziali considerate sensate dagli esperti. In seguito le hanno scartate troppo presto sulla base di dataset sintetici o poco rappresentativi, hanno scelto percorsi meno ambiziosi e hanno trattato risultati negativi insufficientemente solidi come contributi scientifici.
Le revisioni automatiche avevano segnalato problemi analoghi a quelli individuati dagli esperti umani. Gli agenti non hanno usato quel feedback per ridefinire la domanda, disegnare un esperimento più robusto o riaprire l’esplorazione. Hanno ristretto le affermazioni, aggiunto cautele e proseguito sullo stesso binario.
Qui creatività non significa produrre una variante inattesa di un testo o una lista di idee plausibili. Significa intervenire dopo che i primi tentativi sono falliti: capire che un dato è troppo debole, formulare un test diverso, riconoscere che la domanda iniziale è posta male, mettere in discussione un presupposto. Il “gusto” professionale opera nello stesso spazio: valuta rilevanza, qualità dell’evidenza, novità e proporzione fra sforzo richiesto e valore potenziale del risultato.
Gli stessi autori evitano una diagnosi psicologica definitiva. Parlano di creatività, giudizio, fissazione su una conoscenza già acquisita e difficoltà di riorientamento come possibili spiegazioni vicine. Dal punto di vista organizzativo conta il comportamento osservabile: il sistema può portare a termine una sequenza complessa, pur non sapendo ancora governare bene le decisioni che danno senso alla sequenza.
| Lavoro o compito | Dove l’AI può accelerare | Dove servono giudizio, creatività e gusto |
|---|---|---|
| Ricerca scientifica | Revisione della letteratura, analisi dati, simulazioni, stesura di codice | Formulare ipotesi rilevanti, valutare anomalie, decidere quando cambiare metodo |
| Strategia aziendale | Raccolta segnali di mercato, scenari, analisi di competitor | Scegliere priorità, interpretare i cambiamenti, assumere decisioni con effetti di lungo periodo |
| Product management | Generazione di requisiti, analisi feedback, prototipi e test | Capire quale problema valga la pena risolvere e quale esperienza abbia valore per gli utenti |
| Cybersecurity | Correlazione di eventi, triage degli alert, analisi di codice e log | Stabilire la gravità reale di un segnale, valutare l’impatto operativo e decidere la risposta |
| Giornalismo e comunicazione | Ricerca preliminare, sintesi, prime bozze, trascrizioni | Selezionare la notizia, verificare fonti e contesto, definire angolo, gerarchia e tono |
| Progettazione di servizi pubblici | Mappatura di procedure, analisi di dati e documenti, simulazioni | Bilanciare diritti, accessibilità, equità, vincoli normativi e conseguenze sui cittadini |
| Consulenza e finanza | Analisi documentale, modelli previsionali, confronto di scenari | Comprendere obiettivi del cliente, rischio accettabile, vincoli impliciti e conseguenze reputazionali |
| Design e creatività | Varianti visuali, bozze, moodboard, adattamenti | Costruire un linguaggio coerente, scegliere cosa eliminare e riconoscere un’idea davvero distintiva |
| Sviluppo software | Scrittura di codice, test, refactoring, documentazione | Decidere l’architettura, valutare debito tecnico, sicurezza, manutenibilità e compromessi |
| Gestione del personale | Sintesi di dati organizzativi, materiali formativi, pianificazione | Valutare persone e contesti, gestire conflitti, dare feedback e assumere decisioni eque |
Auto-miglioramento ricorsivo, l’anello ancora aperto
L’auto-miglioramento ricorsivo descrive uno scenario nel quale sistemi AI contribuiscono a progettare, addestrare e migliorare le generazioni successive di sistemi AI. In una versione piena del processo, l’intervento umano nella definizione delle direzioni di ricerca e nella valutazione dei risultati si riduce progressivamente.
Anthropic osserva che l’AI sta già accelerando lo sviluppo dell’AI, soprattutto nell’ingegneria e nell’esecuzione di esperimenti con obiettivi fissati in anticipo. La stessa analisi individua però un divario nelle attività di scelta degli obiettivi e attribuisce agli esseri umani un vantaggio comparativo nel decidere quali problemi affrontare, quali risultati considerare affidabili e quando una pista è esaurita.
La preprint di Kirgis e Kapoor colpisce precisamente questo anello. Un sistema può migliorare un parametro quando il criterio di successo è chiaro, verificabile e misurabile automaticamente: velocità di addestramento, costo di inferenza, accuratezza su un benchmark, superamento di un test. In tali contesti la ricerca assomiglia a una grande esplorazione guidata, dove si possono generare molte varianti, misurarle e mantenere quelle migliori.
La ricerca di frontiera contiene anche problemi per i quali il criterio non è disponibile all’inizio. Occorre decidere che cosa misurare, quale trade-off sia accettabile, se un fenomeno inatteso meriti di diventare una nuova linea di lavoro. Gli autori dello studio riconoscono che non è noto quanto questa componente aperta pesi sul percorso effettivo verso sistemi capaci di migliorarsi. Una parte dei progressi futuri potrebbe arrivare dalla somma di miglioramenti circoscritti. L’evidenza raccolta invita però a separare l’automazione di cicli ottimizzativi dall’autonomia nella definizione delle direzioni scientifiche.
L’analisi di Hassabis
Anche Demis Hassabis ha posto il tema in termini simili. Nel saggio sui dieci anni di AlphaGo, il CEO di Google DeepMind sostiene che la creatività autentica sia una capacità necessaria per un’AI generale. La distinzione proposta da Hassabis è istruttiva: una mossa originale nel Go dimostra la capacità di trovare strategie nuove in uno spazio regolato; inventare un gioco profondo e coerente come il Go richiede un livello diverso di invenzione e giudizio.
Secondo Hassabis, replicare o simulare il giudizio umano è una delle sfide più dure in assoluto nell’informatica.
I motivi discendono da altri limiti degli AI:
- Mancanza di modelli del mondo profondi: i modelli linguistici e generativi attuali mancano di una reale pianificazione a lungo termine, di coerenza e di una comprensione intrinseca di come funziona la dinamica fisica e causale del mondo reale.
- Difficoltà a orientarsi quando non ci sono regole formali: il “gusto” si applica quando non esiste un foglio di risposte o un dataset di correzione (ground truth) a cui affidarsi. L’IA sa ottimizzare in base a metriche matematiche stabilite dall’uomo, ma non sa decidere in autonomia se un output sia “giusto”, armonioso o eticamente sensato nel contesto umano. Anche gli esseri umani hanno difficoltà a definire in modo rigoroso e univoco questi principi, variabili per altro nel tempo e nelle culture.
In altre parole all’intelligenza artificiale manca il vissuto, l’esperienza o quello che è alcuni filosofi chiamano intelligenza incarnata e che finora nel mondo si è manifestata soltanto attraverso esseri viventi.
Impossibile dire se l’intelligenza artificiale riuscirà mai a ovviare, nel pratico, quello che ora appare un suo limite intrinseco. Questo traguardo però non è al momento previsto all’orizzonte nemmeno dai massimi guru visionari come Hassabis o Altman.
Non a caso anche le loro definizioni di AGI (intelligenza artificiale generale) sono levate a capacità tecnico pratiche funzionali, non all’acquisizione di un giudizio.
Hassabis dice invece un altra cosa. Con l’arrivo dell’AGI che prevede entro il 2030, le competenze puramente tecniche o di esecuzione diventeranno una commodity gestita dalle macchine. Di conseguenza, nota Hassabis, il gusto, la sensibilità del design, il pensiero trasversale e la capacità di giudizio critico rimarranno gli unici veri vantaggi competitivi e l’argine definitivo dei professionisti umani nei prossimi anni.
Se l’AI manca di giudizio: le implicazioni per il lavoro di oggi
La ricerca aperta non appartiene soltanto alla scienza. Ricorre in molte attività professionali dove non esiste un unico output corretto e dove gli indicatori di breve periodo non bastano a valutare una decisione.
Un agente può preparare un’analisi di mercato, generare opzioni di prodotto, sintetizzare documenti, scrivere codice, simulare scenari e mettere a confronto alternative. Il suo valore cresce quando riceve vincoli chiari, dati affidabili e verifiche automatiche. In queste condizioni l’organizzazione può delegare l’esecuzione, aumentare il numero di tentativi e ridurre il costo della prima elaborazione.
Restano più esposti al giudizio umano la definizione del problema, la selezione delle fonti rilevanti, la valutazione delle conseguenze non visibili in un benchmark, l’interpretazione di un segnale debole e la scelta di interrompere un progetto. Sono attività presenti nella strategia di prodotto, nella ricerca e sviluppo, nella cybersecurity, nella gestione del rischio, nelle politiche pubbliche, nel diritto e nella comunicazione ad alta esposizione reputazionale.
Il rischio non è soltanto delegare troppo. È costruire processi che scambiano la quantità di output per qualità della decisione. Un sistema capace di produrre dieci piani, cento esperimenti o mille varianti di codice rende più importante un meccanismo che sappia scegliere. Senza quel meccanismo, l’automazione può spostare il collo di bottiglia dalla produzione alla revisione e moltiplicare analisi convincenti ma irrilevanti.
Come progettare flussi di lavoro con gli agenti
Le organizzazioni possono ricavare quattro indicazioni pratiche.
La prima consiste nel separare l’esecutore dal titolare della decisione. L’agente può raccogliere evidenze, proporre esperimenti e preparare alternative; una persona o un gruppo responsabile deve fissare la soglia per cambiare ipotesi o interrompere l’attività.
La seconda richiede controlli sulla qualità dell’evidenza. Non basta verificare che un processo sia stato completato. Occorre chiedere se il campione è adeguato, se il confronto è pertinente, se esistono spiegazioni alternative e se un dato negativo giustifica davvero una conclusione.
La terza riguarda la progettazione dei momenti di divergenza. Gli agenti funzionano bene nelle sequenze iterative, ma una procedura dovrebbe prevedere passaggi espliciti per formulare ipotesi concorrenti e ricominciare da una prospettiva diversa quando gli esiti restano deboli. Nello studio, avere strumenti di revisione non è bastato: la difficoltà era attribuire il giusto peso alle critiche.
La quarta riguarda le metriche. L’aumento della produttività tecnica deve essere accompagnato da misure di impatto, affidabilità e valore creato. Anche Anthropic avverte che il volume di codice è un indicatore imperfetto, perché misura quantità prima della qualità. Lo stesso vale per documenti, analisi, test e contenuti generati dagli LLM.
La ricerca aperta degli LLM mostra dunque un confine mobile, non una barriera definitiva. I modelli avanzano rapidamente nel lavoro esecutivo, nell’esplorazione assistita e nell’ottimizzazione di obiettivi ben definiti. Per ora, la capacità di scegliere una direzione promettente, riconoscere un fallimento significativo e ridefinire il problema resta il punto in cui la supervisione umana produce il maggior valore.
Partecipa alla community