L’opacità dell’intelligenza artificiale non riguarda solo il funzionamento tecnico dei modelli, ma il rapporto tra risultati, teoria e comprensione. Dalle dimostrazioni matematiche agli scacchi, emerge uno scarto sempre più evidente tra ciò che le macchine producono e ciò che gli esseri umani riescono a spiegare.
Nell’intervista a Nello Cristianini, che si trova ora anche su YouTube, vengono affrontati temi nuovi rispetto all’intelligenza artificiale, e in particolare il fatto che i sistemi di intelligenza artificiale più recenti sono sempre addestrati dagli esseri umani, ma i meccanismi che permettono loro di risolvere problemi o dimostrare teoremi restano in gran parte opachi. Nel suo recente libro, Forma mentis, Cristianini riporta l’episodio avvenuto nel 2025 nel quale due sistemi di intelligenza artificiale hanno affrontato, fuori competizione, gli stessi problemi assegnati agli studenti umani alle Olimpiadi internazionali della matematica, nello stesso momento e con lo stesso tempo a disposizione. Entrambi hanno ottenuto un punteggio che sarebbe valso la medaglia d’oro. I matematici hanno potuto verificare che le dimostrazioni erano corrette, ma il percorso che le ha prodotte resta in larga parte oscuro.
Indice degli argomenti
L’opacità dell’intelligenza artificiale davanti alla matematica
È un episodio che conferma, in modo quasi esemplare, quanto sostenevo nel libro Sociologia dell’IA. Creatività, coscienza, potere (con Massimiliano Raffa, Guerini Next, 2025): potremmo trovarci sempre più spesso di fronte a risultati computazionali che anticipano, o superano, la nostra capacità teorica di comprenderli. La matematica è il terreno meno indulgente a questo tipo di scarto, perché una dimostrazione, per definizione, non vale se non si può ripercorrere il ragionamento che l’ha prodotta: eppure è proprio lì che oggi si constata il divario tra un risultato corretto e un percorso che resta indecifrabile.
Dalla fine della teoria all’intelligenza artificiale generativa
Non è la prima volta che si annuncia la fine della teoria di fronte al trionfo dei dati. Nel 2008 il direttore di Wired, Chris Anderson, scrisse un editoriale destinato a fare scuola, “The End of Theory”: sosteneva che, con abbastanza dati, la correlazione avrebbe soppiantato la causazione, rendendo superfluo il metodo ipotesi-modello-verifica su cui si è retta la scienza per secoli. La tesi generò subito una discussione accesa; il geografo Rob Kitchin, tra gli altri, replicò nel saggio “Big Data, New Epistemologies and Paradigm Shifts” (2014) che i dati non parlano mai da soli, restano sempre incorporati in scelte teoriche precedenti (che cosa raccogliere, come classificarlo). Con l’intelligenza artificiale generativa, quella discussione di quasi vent’anni fa non è affatto chiusa, è semplicemente entrata in una fase più radicale: non parliamo più solo di correlazioni statistiche al posto delle teorie, bensì di sistemi che arrivano a risultati verificabili senza che nessuno, nemmeno chi li ha costruiti, sappia ricostruire il percorso che li ha prodotti.
La teoria come bussola nella complessità dell’IA
Verrebbe da concludere che la teoria, così come l’hanno intesa i grandi epistemologi del Novecento, sia destinata a diventare un residuo, una forma di sapere superata da un’intelligenza che funziona senza bisogno di modelli interpretativi espliciti. Ma c’è un modo diverso di guardare alla questione. Nel 1911, ne Die Philosophie des Als Ob (La filosofia del come se), il filosofo Hans Vaihinger sosteneva che le teorie non vanno giudicate per la loro corrispondenza letterale con il reale, quanto per la loro capacità di orientare l’azione in un mondo troppo complesso per essere afferrato per intero: le chiamava “finzioni regolative”, utili non perché vere, ma perché ci permettono di muoverci. Se questo è vero, allora la teoria non scompare, cambia mestiere: da spiegazione del mondo a bussola per orientarsi in una complessità che, con l’intelligenza artificiale, è aumentata di un ordine di grandezza.
AlphaZero, scacchi e bellezza senza comprensione
C’è poi un altro aspetto, meno discusso, per cui la teoria, così come intesa sinora, ci mancherà. Mi accade da anni di giocare a scacchi, come semplice appassionato e, talvolta, ho preso lezioni da maestri. Uno di loro mi ha raccontato la rivoluzione portata dai computer in questo gioco, ed è una storia in due tempi. I primi motori scacchistici, da Deep Blue fino alle prime generazioni di Stockfish, calcolavano per forza bruta, valutando milioni di posizioni al secondo seguendo criteri scritti da umani: il loro stile era freddo, materialista, indifferente a ogni idea di eleganza, l’esatto opposto della scuola scacchistica ottocentesca di Anderssen, che sacrificava pezzi per il gusto della combinazione prima ancora che per il risultato. Poi, nel 2017, è arrivato AlphaZero, di DeepMind: un sistema che ha appreso gli scacchi da sé, giocando milioni di partite contro se stesso senza alcuna base dati umana, e il suo stile ha spiazzato tutti. Garry Kasparov ha dichiarato che “gli scacchi sono stati scossi dalle fondamenta”; il matematico Steven Strogatz ha scritto che giocava “in modo intuitivo e bellissimo, con uno stile romantico, d’attacco”, proprio come Anderssen centosettant’anni prima. La bellezza, insomma, è tornata, ma non come intenzione: è un sottoprodotto dell’ottimizzazione statistica, non una ricerca estetica consapevole. È forse la dimostrazione più elegante di ciò che sta accadendo su scala più ampia con l’intelligenza artificiale: la forma può riapparire, la comprensione resta assente.
Comprendere significa comprimere
C’è un modo antico per dare rigore a questa idea, ed è il rasoio di Occam: a parità di risultati, la spiegazione più economica è la migliore. Nel Novecento questa intuizione filosofica è diventata teorema. Il matematico russo Andrej Kolmogorov (1965), insieme a Ray Solomonoff (1964) e Gregory Chaitin (1966), ha dimostrato che la complessità di un fenomeno può essere definita con precisione come la lunghezza del programma più breve capace di generarlo: se una sequenza di dati si lascia comprimere in una descrizione molto più corta di se stessa, vuol dire che contiene una regolarità, una struttura, non solo rumore. Comprendere, in questa prospettiva, coincide con comprimere. È esattamente ciò che accade dentro un sistema di intelligenza artificiale quando costruisce una rappresentazione compatta capace di prevedere l’evoluzione di un fenomeno: quella compattezza è la prova che la macchina ha colto qualcosa di reale nella struttura del problema, anche se non ne possiede alcuna comprensione semantica. Cristianini fa un esempio efficace: si possono osservare albe per secoli, migliaia di dati separati, un’alba diversa dall’altra per luce, stagione, latitudine, eppure tutta quella massa di osservazioni si lascia comprimere in un’unica frase, “ogni mattina il sole sorge”. Quella frase è una rappresentazione compattissima che permette di prevedere con affidabilità l’evoluzione del fenomeno, ma non contiene alcuna spiegazione del perché il sole sorga, non parla di rotazione terrestre, di gravità, di meccanica celeste.
La compattezza non elimina l’opacità dell’intelligenza artificiale
Qui però si annida il punto delicato, quello che a mio parere merita di essere sviscerato con più attenzione di quanta gliene sia stata dedicata finora. La compressione garantisce che il sistema abbia intercettato una regolarità autentica del fenomeno, non un artefatto casuale: questo è un fatto, non un’opinione. Ma non garantisce affatto che quella regolarità sia esprimibile nelle nostre categorie, né che coincida con le spiegazioni con cui noi umani intendiamo lo stesso fenomeno. Una rete neurale può trovare una rappresentazione compatta ed efficacissima della grammatica di una lingua, della fisica di un sistema, persino delle regole degli scacchi, usando però coordinate concettuali che non hanno alcuna corrispondenza con la nostra teoria della lingua, della fisica, degli scacchi. La compattezza certifica che la macchina ha compreso qualcosa, non che lo abbia capito nei termini in cui lo comprendiamo noi, né che possa restituircelo in un linguaggio che la nostra teoria sia in grado di accogliere. È lo stesso scarto con cui si è aperto questo articolo: la dimostrazione può essere corretta, compressa nel modo più efficiente possibile, e restarci comunque, in larga parte, oscura.
Partecipa alla community