OpenAI ha alzato ancora una volta l’asticella della competizione, pubblicando su GitHub 722 paper – organizzati in 372 famiglie di risultati generati da un modello interno ancora non disponibile al pubblico.
Dopo il caso Navier-Stokes e la lettera dei 24 vincitori della Medaglia Fields, la matematica torna ad essere arena di competizione tra laboratori. Un’accesa sfida dove in gioco sono accesso al calcolo, verifica, credito accademico, costi e potere industriale.
Indice degli argomenti
La pubblicazione di OpenAI su GitHub
I lavori pubblicati riguardano teoria dei numeri, geometria algebrica, analisi, informatica teorica ed altri campi della matematica.
Alcuni, ancora una volta, intervengono su questioni aperte da decenni. Altri invece offrono dimostrazioni alternative, conseguenze o risultati connessi. Tuttavia OpenAI avverte che non tutti i paper vantano lo stesso grado di verifica e che alcune dimostrazioni – tuttora non formalizzate – potrebbero perfino contenere errori.
L’ingente mole di paper è insolita anche per gli standard dell’AI generativa, ma testimoniano la dimensione economica della matematica pura dove non conta più per un’università avvalersi dei matematici di fama mondiale, ma conta anche disporre di capitale, potenza di calcolo, modelli proprietari ed organizzazione industriale. Tutti fattori che hanno un impatto diretto sulla velocità della scoperte.
Nessun ateneo può vantare infrastrutture in grado di fruire del lavoro di migliaia di agenti AI contemporaneamente.
La lettera dei 24 vincitori della Medaglia Fields
Lo scorso 11 settembre ben 24 vincitori della Medaglia Fields – l’equivalente dei premi Nobel nel campo della matematica – hanno scritto una lettera aperta di protesta, dopo che la dimostrazione proposta da OpenAI sul problema di Navier-Stokes ha innescato un’ondata di apprensione accademica nei confronti dell’intelligenza artificiale.
I matematici hanno affermato che l’AI potrebbe perfino minare le fondamenta della loro disciplina. Ma questa al momento è solo fantascienza.
Tuttavia, le aziende che si occupano di AI hanno sostenuto che stanno risolvendo problemi matematici solo per valutare la potenza dei propri modelli, e non stanno ingaggiando una sfida intellettuale che sarebbe «dannosa per la scienza della matematica e per la comunità matematica».
“Non credo che i modelli di IA possano evolversi al punto di diventare autonomi, o “sfuggire” al controllo umano”, commenta ad AgendaDigitale.eu Saverio Pascazio, professore dell’Università degli Studi di Bari Aldo Moro, dipartimento interuniversitario di Fisica.
Ecco cosa c’è in gioco davvero in questo presunto braccio di ferro fra colossi dell’AI e ricercatori nella matematica di frontiera.
Il caso Navier-Stokes: i problemi del Millennio sono già codificati
La lettera dei vincitori della Medaglia Fields era una risposta alla serie di apparenti “scoperte rivoluzionarie” compiute dall’intelligenza artificiale in campo matematico, l’ultima delle quali è stata annunciata l’8 settembre da OpenAI, l’azienda di ChatGPT.
Un gruppo di OpenAI ha dichiarato di aver risolto il problema di Navier-Stokes, uno dei sette “Problemi del Millennio” selezionati nel 2000 dal Clay Mathematics Institute come i più difficili e importanti del settore.
OpenAI sembra quindi aver battuto sul tempo Tristan Buckmastere Levent Alpöge, due matematici che stavano lavorando a quel problema, avvalendosi anche di alcune tecnologie di IA, e che si riteneva fossero vicini a una soluzione. L’azienda ha pubblicato un articolo di 166 pagine che descrive il proprio lavoro, nel quale sono stati impiegati modelli non ancora disponibili al pubblico.
Nonostante la sua lunghezza, tuttavia, questo articolo conteneva pochi dettagli esplicativi, che invece i matematici solitamente forniscono ogni volta che condividono una nuova scoperta.
“I ‘problemi di matematica del millennio’ risolti da Anthropic e ChatGPT erano tecnicamente molto difficili da risolvere, ma erano anche, in un certo senso, problemi già codificati. Su problemi di questo tipo, quando si tratta di rispondere a domande ben formulate, l’IA ha dato ampia prova di fare meglio degli esseri umani. Anche nel gioco degli scacchi, o nel gioco del Go, l’IA fa meglio degli esseri umani. Ma l’IA non ha dato prova di saper creare la teoria della relatività o la fisica quantistica“, spiega il professor Pascazio, che ha lavorato con Michel H. Devoret, successivamente alle ricerche oggetto del Premio Nobel.
La soluzione matematica è un caso di governance dell’AI applicata alla conoscenza
A prima vista, questa polemica sembra una versione altisonante delle reazioni allarmistiche che accompagnarono la diffusione delle calcolatrici elettroniche (perdita delle capacità di calcolo mentale) o persino delle penne a sfera (secondo cui la mancanza di stimoli sensoriali sul cervello avrebbe potuto avere conseguenze negative sullo stile di scrittura).
Quelle preoccupazioni, ben reali all’epoca, oggi appaiono ridicole quanto quelle di Socrate che lamentò che la parola scritta potesse rendere le persone pigre nel ricordare le cose, non si è mai vista una tale ondata di apprensione accademica nei confronti di una nuova tecnologia, poiché la parola scritta ha potenziato la memoria, non l’ha sostituita.
Ma c’è una differenza.
Gli autori delle lettere non sembrano ovviamente voler impedire l’uso dell’IA nella loro disciplina.
Anzi, uno di loro, Terence Tao, ne ha parlato in un video pubblicato da OpenAI su X, una piattaforma social, lo scorso maggio, affermando: «Mi permette di sperimentare; proverò cose ancora più folli». Ha poi elencato le capacità utili dell’IA e le sue speranze su come essa potrebbe rivelarsi particolarmente utile se il lavoro fosse condiviso, così come lo sono la cultura e la tradizione matematiche.
“La vicenda della presunta soluzione OpenAI al problema di Navier-Stokes non è una notizia di matematica: è un caso di scuola sulla governance dell’intelligenza artificiale applicata alla conoscenza“, mette i puntini sulle i Paolo Tarsitano, ingegnere informatico ed editor di CyberSecurity360.it.
Una questione di metodo scientifico
“Il matematico italiano, Medaglia Fields, Alessio Figalli, intervistato dalla Repubblica, lo dice con la chiarezza di chi maneggia dimostrazioni da una vita: si può oggi arrivare a un risultato corretto senza che nessuno, nemmeno chi lo riceve, abbia realmente compreso il percorso che lo ha prodotto. È l’esatto rovescio di ciò su cui si fonda il metodo scientifico, che non si accontenta della risposta, ma pretende la tracciabilità del ragionamento”, sottolinea Paolo Tarsitano.
Le 3 questioni poste dai sistemi AI-driven
Esiste un’analogia storica, un fenomeno chiamato “offloading cognitivo”. Quando si riduce il carico sulla memoria umana, la tecnologia dell’informazione provoca un’atrofia delle capacità mentali proprio nei modi che preoccupavano Socrate.
Uno studio pubblicato già nel 2011 da Betsy Sparrow della Columbia University e dai suoi colleghi ha confermato l’idea, dettata dal buon senso, secondo cui le persone, quando si trovano di fronte a domande difficili, ricorrono a Google per cercare le risposte, invece di tentare di richiamare alla memoria ciò che sanno. Uno studio più recente, condotto da Michael Gerlich della SBS Swiss Business School, ha analogamente riscontrato «una correlazione negativa tra l’uso frequente di strumenti di intelligenza artificiale e le capacità di pensiero critico».
La polemica riflette timori più ampi riguardo alla diffusione dell’AI. I dirigenti di OpenAI hanno affermato in passato che la loro visione del futuro è quella in cui le AI collaborano con i matematici per “capire quali problemi sia effettivamente importante affrontare”.
Ciò fa pensare a un mondo in cui lo sforzo cognitivo matematico potrebbe effettivamente essere affidato ad agenti software.
Saranno i dettagli su come ciò avverrà a determinare se si tratti di una cosa positiva o negativa e, quindi, se, in questo caso, Socrate possa aver avuto ragione, dopotutto.
“Non a caso la European Mathematical Society, pur riconoscendo il valore del risultato, ha posto sul tavolo tre questioni che chiunque lavori con sistemi AI-driven dovrebbe riconoscere: paternità intellettuale, criteri di attribuzione del merito, accesso al modello che ha generato l’output. E l’inchiesta dell’Economist mostra quanto questi non siano dettagli accademici: la disputa tra un ricercatore NYU e OpenAI sul mancato credito a un collaboratore, insieme alla pubblicazione di risultati prima di una verifica indipendente completa, sono esattamente i due rischi che la governance dell’AI dovrebbe intercettare per tempo: non dopo la pubblicazione, ma nel processo che la precede”, mette in guardia Paolo Tarsitano.
L’importanza della risposta affidabile e chi ne risponde
“Qui il parallelo con il mio lavoro quotidiano è diretto – continua Tarsitano -. L’AI Act impone obblighi di sorveglianza umana effettiva e di tracciabilità documentale proprio per evitare che un output, corretto o meno, diventi decisione senza che si possa ricostruire come vi si sia arrivati”.
“Le organizzazioni che oggi integrano modelli generativi in processi critici (analisi, reportistica, persino decisioni di sicurezza) commettono lo stesso errore che i matematici stanno contestando a OpenAI: misurano il risultato e trascurano il processo”, conclude Paolo Tarsitano: “Ecco perché anziché chiedersi se il modello ha prodotto la risposta giusta, sarebbe meglio cominciare a domandarsi se l’organizzazione sia effettivamente in grado di dimostrare, con log e documentazione a norma, perché quella risposta è affidabile e chi ne risponde. Senza questa seconda risposta, la prima non vale nulla, in matematica come in un audit NIS2 o DORA“.
L’applicazioni di Lean per velocizzare la verifica dei passaggi logici
Il proof assistant Lean (in particolare Lean 4) viene usato dall’intelligenza artificiale come giudice formale e rigoroso non solo per eliminare le “allucinazioni”, ma soprattutto per verificare la correttezza logica delle dimostrazioni matematiche.
Lean funziona infatti come compilatore o “kernel fidato”: riceve il codice formale della dimostrazione e controlla riga per riga se i passaggi rispettano rigorosamente gli assiomi e le regole della matematica.
Se segnala un errore di sintassi o una falla logica, l’AI può ricevere il feedback del compilatore, correggendo il codice finché la dimostrazione non è compilata con successo (dunque, senza errori formali).
Ma sta sempre ai matematici stessi controllare che gli assiomi usati siano quelli corretti perché Lean verifica la veridicità dei passaggi logici, però è l’umano a verificarne la veridicità del teorema stesso.
Il rischio degli Agenti AI nella matematica è di diventare meno creativi
Una competizione, in cui si cerca solo di timbrare il cartellino (risolvere tutti i problemi irrisolti) senza chiedersi in che modo le nuove dimostrazioni matematiche miglioreranno la vita di tutti noi, è abbastanza delirante.
La preoccupazione vera dei matematici è che le risposte definitive ai problemi rappresentino solo un aspetto della matematica.
Ciò che spesso è più prezioso è che il processo per arrivare a dimostrazioni importanti porti a porre ulteriori domande e alla creazione di nuovi ambiti di studio.
I matematici temono che questo rischia di andare perso se l’AI si occupa del lavoro di routine — e a maggior ragione se tale lavoro viene svolto da organizzazioni che poi non rendono pubblici dettagli sufficienti affinché gli esseri umani possano leggerli e comprenderli.
Come afferma Hugo Duminil-Copin, un altro dei firmatari della lettera aperta, “far atterrare qualcuno in elicottero sulla vetta dell’Everest è ben diverso dal riuscire a scalarla”.
Se ciò suona come un argomento di parte, portato sul tavolo da professionisti che temono per il proprio posto di lavoro, può sembrarlo. Ma ciò non lo rende del tutto privo di fondamento.
I matematici potrebbero iniziare a lavorare in modo meno trasparente, per evitare il destino del dottor Buckmaster e del dottor Alpöge. Un altro pericolo, più sottile, è che affidarsi all’IA eroda le abitudini mentali e renda i matematici umani professionisti meno capaci nel proprio campo. Una generazione di matematici potrebbe veder evaporare la propria creatività, se delegasse troppo all’AI.
“In generale, tendo ad essere d’accordo con Giorgio Parisi (Premio Nobel per la Fisica, con cui il professor Pascazio collabora, ndr), che ha recentemente suggerito che preoccupano molto di più le problematiche legate alla disoccupazione e all’educazione. Se continuiamo ad affidarci troppo all’IA rischiamo di perdere alcune delle nostre migliori capacità e di diventare meno creativi”, conclude Saverio Pascazio.
L’AI propone, ma sta alla matematica verificare. Ma, dopo la pubblicazione dei 722 paper di OpenAI, nasce una nuova economia che potremmo definire l’economia della comprensione delle prove.
Se i sistemi AI saranno in grado di generare dimostrazioni più rapidamente di quanto i matematici impieghino a leggerle, a salire sarà il valore economico del lavoro umano indispensabile per verificare quei risultati, illustrarli, classificarli e mettere in collegamento.
Agenti AI e nuove competenze matematiche
In futuro, le università e i centri di ricerca potrebbero avere necessità di più esperti di formalizzazione, specialisti di Lean, matematici in grado di lavorare insieme ai modelli e ricercatori dediti alla ricostruzione concettuale delle dimostrazioni.
Riviste e sistemi di peer review, a loro volta, saranno impegnati soprattutto nella gestione di una mole di contenuti molto superiore a quella prodotta dalla ricerca classica.
Ma, se i modelli proprietari potranno produrre velocemente ipotesi, dimostrazioni o progetti sperimentali in tutte le STEM (fisica, chimica, biologia ed ingegneria), allora ciò che oggi accade nella matematica anticipa solo quello che sta per avvenire altrove.
Significa che la competizione tra laboratori AI si sposterà dalla capacità di offrire risposte ai quesiti alla capacità di generare nuova conoscenza verificabile.
Partecipa alla community