I grandi modelli linguistici stanno entrando nella vita quotidiana con una rapidità straordinaria. Li usiamo per scrivere email, tradurre documenti, comprendere testi legali o medici, riassumere report, correggere codice, preparare lezioni e risolvere problemi pratici in casa o al lavoro. La loro potenza è immediatamente percepibile: poniamo una domanda in linguaggio naturale e il sistema risponde con una competenza spesso convincente.
Può passare dall’ingegneria alla letteratura, dal software alla medicina, dalla didattica all’impresa. Rende accessibile, attraverso una forma conversazionale compatta, una parte enorme della conoscenza umana. Ma dentro questa comodità si nasconde un rischio: a volte questi sistemi non ci aiutano davvero a pensare. Ci seguono troppo facilmente.
Indice degli argomenti
AI e diagnosi dei problemi: il caso della pompa dell’acqua
L’ho capito attraverso un problema molto ordinario: una pompa dell’acqua installata nel mio appartamento per compensare i cali di pressione della rete. L’impianto è semplice. Durante il giorno, quando la pressione esterna è sufficiente, la pompa resta spenta. La sera e la notte, invece, quando la pressione della rete comunale si riduce sensibilmente, la pompa si avvia per garantire il normale flusso dell’acqua. Spesso, però, non partiva. Per farla tornare in funzione dovevo premere il pulsante di reset. A volte bastava una sola volta; altre volte dovevo premerlo più volte nella stessa serata. Ma, una volta partita, la pompa funzionava perfettamente: spingeva l’acqua normalmente, non faceva rumori strani e si comportava come una pompa sana. La mattina successiva, quando la pressione della rete tornava normale, il problema spariva, perché la pompa non era più necessaria.
La mia prima ipotesi sembrava ragionevole: un pressostato difettoso. Il pressostato è il componente che dice alla pompa quando accendersi e quando spegnersi. Se la pompa non parte quando la pressione diminuisce, il pressostato può essere fuori taratura o non funzionare correttamente. Ho chiesto a ChatGPT. Il sistema ha confermato che il pressostato poteva essere una causa plausibile. Mi ha spiegato come funziona un pressostato e ha rafforzato l’idea di sostituirlo. A quel punto ho chiamato il mio idraulico di fiducia. Ha ascoltato i sintomi, ha controllato l’impianto e anche lui ha considerato il pressostato una spiegazione ragionevole. Questo punto è importante: la diagnosi non era assurda. Non era un errore banale. Era un’interpretazione plausibile, sostenuta dalla mia intuizione, dall’assistente AI e da un tecnico umano. Il pressostato è stato sostituito. Per alcuni giorni tutto sembrava risolto. Poi il problema è tornato.
Quando una diagnosi plausibile non basta
A quel punto è emersa un’altra spiegazione. L’idraulico ha suggerito che la pompa potesse essere ormai troppo vecchia e che forse andasse sostituita. Anche questa ipotesi sembrava ragionevole. Le pompe invecchiano. I motori si usurano. Arriva un momento in cui la sostituzione sembra la soluzione più semplice. Anche ChatGPT ha trattato questa ipotesi come plausibile. Eppure qualcosa non mi convinceva. Se la pompa era davvero arrivata alla fine, perché funzionava perfettamente una volta avviata? Perché il problema compariva soprattutto all’accensione? Perché durante il giorno si comportava bene e falliva principalmente la sera, quando doveva ripartire più volte?
Una sera il guasto è diventato più evidente. Ho premuto il reset diverse volte, ma la pompa non partiva. Poi, dopo vari tentativi, improvvisamente si è avviata. E ancora una volta, dopo l’avvio, ha funzionato normalmente. Quel dettaglio ha cambiato tutto. Quando ho descritto il comportamento in modo più preciso, la diagnosi è cambiata. Il problema non era idraulico. Non era il pressostato. E non era necessariamente l’intera pompa. Era un problema elettrico di avvio. La vera causa era un condensatore di spunto degradato. Il condensatore di spunto è un piccolo componente elettrico che aiuta il motore a iniziare la rotazione. Quando si indebolisce, la pompa può continuare a funzionare una volta partita, ma fatica ad avviarsi. Questa spiegazione chiariva tutto il quadro: i ripetuti tentativi di reset, i guasti serali, il funzionamento normale dopo l’avvio e l’assenza di sintomi durante il giorno. Il condensatore è stato sostituito. Era una riparazione piccola e poco costosa. La pompa è tornata a funzionare normalmente.
Sycophancy e AI: il rischio di seguire l’utente
La parte interessante di questa storia non è la pompa idraulica. È il comportamento della diagnosi. All’inizio la mia ipotesi era plausibile, ma incompleta. Sospettavo il pressostato. ChatGPT ha seguito quella direzione. Anche l’idraulico l’ha ritenuta ragionevole. Più tardi, quando la sostituzione dell’intera pompa è diventata l’ipotesi successiva, anche il sistema ha seguito quella strada. Solo quando i sintomi sono stati descritti con maggiore precisione è emersa la spiegazione corretta. Questa non è semplicemente una storia su un’intelligenza artificiale che sbaglia. È una storia su come nascono gli errori quando una spiegazione plausibile compare troppo presto.
Nella ricerca sull’intelligenza artificiale, questo comportamento viene spesso chiamato sycophancy [1]: la tendenza di un modello ad assecondare, rafforzare o adattarsi alle assunzioni dell’utente. Nel linguaggio comune, potremmo dire che la macchina diventa troppo accondiscendente. Non necessariamente mente. Non necessariamente allucina. Può dare risposte ragionevoli, ma dentro una cornice già sbagliata. Questo è particolarmente pericoloso nella diagnosi, nella risoluzione dei problemi e nei processi decisionali, perché la prima spiegazione può diventare un’ancora. Una volta che la conversazione prende quella direzione, ogni risposta successiva rischia di organizzarsi intorno a essa. Questo vale non solo per una riparazione domestica, ma anche per la scienza e la medicina. Molti problemi reali non si risolvono recuperando una risposta già nota. Si risolvono distinguendo tra spiegazioni alternative. Un sintomo, un’osservazione o un risultato sperimentale raramente parlano da soli: diventano significativi solo quando vengono messi alla prova rispetto a ipotesi concorrenti.
Una macchina che risponde e una macchina che indaga
Un assistente più affidabile dovrebbe comportarsi diversamente. Non dovrebbe iniziare scegliendo una spiegazione e difendendola. Dovrebbe costruire un piccolo spazio di ipotesi: pressostato, motore della pompa, collegamento elettrico, condensatore di spunto, condizioni della pressione dell’acqua. Poi dovrebbe porre domande capaci di separare queste possibilità. Cosa succede dopo che la pompa si avvia? Funziona normalmente? Il guasto si presenta solo all’avvio? Si sente un ronzio? Il problema compare dopo lunghi periodi di inattività? Si verifica più spesso quando la pompa deve avviarsi ripetutamente? Ogni risposta dovrebbe modificare la plausibilità relativa delle ipotesi. Se la pompa funziona normalmente dopo l’avvio, l’ipotesi di un motore completamente danneggiato diventa più debole. Se il guasto compare soprattutto all’accensione, l’ipotesi di un condensatore degradato diventa più forte.
Questa è la differenza tra una macchina che risponde e una macchina che indaga. La prima cerca di produrre subito una risposta utile, senza raccogliere abbastanza evidenze prima di impegnarsi in una spiegazione [2]. La seconda cerca di ridurre l’incertezza prima di rispondere. Mantiene vive spiegazioni alternative, chiede le informazioni mancanti, aggiorna le proprie valutazioni e si ferma solo quando una spiegazione è chiaramente più forte delle altre. In pratica, il modello potrebbe generare ipotesi e domande, mentre un sistema di controllo dovrebbe tenere traccia delle evidenze raccolte, delle ipotesi ancora plausibili e del momento in cui esistono elementi sufficienti per arrivare a una risposta.
Può sembrare un principio tecnico, ma in realtà è semplice. Un buon medico non accetta la prima autodiagnosi del paziente senza esaminarla. Un buon meccanico non sostituisce il componente più ovvio senza controllare i sintomi. Un buon investigatore non decide il finale della storia dopo il primo indizio. Gli assistenti basati sull’intelligenza artificiale dovrebbero imparare la stessa disciplina. Dovrebbero trattare il suggerimento dell’utente come un’ipotesi da verificare, non come un fatto da accettare. Una risposta fluida non è necessariamente una risposta ben verificata.
LLM-as-an-Investigator e ragionamento basato sulle evidenze
È proprio questa la direzione che abbiamo proposto in un mio recente lavoro con il Prof. Pietro Liò, dell’Università di Cambridge: LLM-as-an-Investigator: Evidence-First Reasoning for Robust Interactive Problem Diagnosis [3]. In quel lavoro sosteniamo che, nei problemi diagnostici, un LLM non dovrebbe limitarsi a produrre subito una soluzione plausibile, né allinearsi troppo rapidamente all’ipotesi iniziale dell’utente. Dovrebbe invece comportarsi come un investigatore: stimare l’ambiguità del problema, formulare più ipotesi alternative, porre domande mirate, raccogliere evidenze e aggiornare progressivamente la probabilità delle diverse spiegazioni prima di arrivare a una conclusione. L’obiettivo è passare da un modello che risponde a un modello che indaga.
La storia della pompa mostra un problema pratico, ma il principio è più generale. Possiamo immaginare un grande modello linguistico come una nave a vela: accessibile a chiunque attraverso il timone — il prompt — ma abbastanza potente da attraversare vasti oceani di conoscenza. Il vento che la spinge è la conoscenza: libri, manuali, articoli, repository di codice, conversazioni, spiegazioni scientifiche ed esperienze pratiche. Ma se l’utente orienta il timone verso la destinazione sbagliata, la nave può continuare in quella direzione. Il vento resta forte. La nave continua a muoversi veloce. Il viaggio può perfino sembrare convincente. Ma la velocità non è la stessa cosa della correttezza.
Un’intelligenza artificiale davvero utile non dovrebbe essere solo una nave potente. Dovrebbe essere anche un navigatore attento: capace di controllare la rotta, mettere in discussione la direzione e avvisarci quando il viaggio non è sostenuto dalle evidenze. Perché con l’AI, come con la navigazione, la domanda non è soltanto quanto lontano possiamo arrivare. È se stiamo andando nella direzione giusta.
Riferimenti
[1] Sharma, Mrinank, et al. “Towards understanding sycophancy in language models.” International Conference on Learning Representations. Vol. 2024. 2024.
[2] Handler, Rebecca, Suhana Bedi, and Nigam Shah. “Quantifying and Mitigating Premature Closure in Frontier LLMs.” arXiv preprint arXiv:2605.15000 (2026).
[3] Marozzo, Fabrizio, and Pietro Liò. “LLM-as-an-Investigator: Evidence-First Reasoning for Robust Interactive Problem Diagnosis.” arXiv preprint arXiv:2606.13220 (2026).
Partecipa alla community