L’AI può fare scoperte, ma rischiamo di non saperle più verificare

Ha fatto molto rumore l’annuncio di OpenAI della risoluzione di uno dei sette problemi del millennio, relativamente alle equazioni di Navier-Stokes sulla fluidodinamica, da parte di un modello interno ad OpenAI molto più capace di GPT6 Astra (che comunque ha contribuito generando la formalizzazione della soluzione), un problema matematico aperto da poco più di novant’anni e che l’AI ha risolto in 88 ore utilizzando 130 miliardi di token di output.

L’AI e il problema di Navier-Stokes: il dibattito

Ovviamente dopo l’annuncio si sono scatenati i dibattiti e i dubbi sulla vera originalità della soluzione che ha seguito delle linee di pensiero su cui stavano già lavorando vari matematici, come Buckmaster e Alpöge, e che si stavano avvicinando alla soluzione e che potrebbero quindi ridurre la portata del contributo del nuovo modello. Si tratta di un problema molto attuale, perché se l’AI riesce a risolvere problemi aperti da così tanto tempo allora si può capire perché molti grandi attori nello sviluppo di queste tecnologie come Dario Amodei, CEO di Anthropic, hanno chiesto un rallentamento nello sviluppo per assicurare che questi modelli restino sicuri.

Cerchiamo di capire le implicazioni di questo importante risultato senza soffermarci sul problema in sé (che può essere difficile anche solo da capire) ma su come sia stato possibile raggiungerlo e quali sono le considerazioni che vanno fatte al raggiungimento di un risultato straordinario ma che pone non pochi problemi sul ruolo che l’AI già può giocare nel ridefinire il mondo in cui viviamo.

Perché il problema di Navier-Stokes è una sfida del millennio

Le equazioni di Navier–Stokes sono il linguaggio con cui da quasi due secoli descriviamo il moto dei fluidi. Le usiamo per studiare l’aria attorno a un’ala, l’acqua in una condotta, le correnti atmosferiche o il sangue nei vasi. Dal punto di vista pratico funzionano così bene da essere alla base di gran parte della fluidodinamica computazionale moderna. Eppure, dietro questo successo, è rimasta aperta per decenni una domanda sorprendentemente semplice da formulare: se si parte da una situazione perfettamente regolare, le equazioni continuano sempre a produrre una soluzione fisicamente ben comportata oppure, in certe condizioni, possono “esplodere”, facendo diventare infinita una grandezza come la velocità in un tempo finito?

È proprio questa la questione nota come problema di esistenza e regolarità di Navier–Stokes, uno dei sette Millennium Prize Problems. La viscosità tende infatti a smorzare le variazioni più violente del flusso, mentre la parte non lineare delle equazioni può concentrarle e amplificarle. Il problema matematico consiste nel capire quale dei due effetti prevalga sempre. Il risultato presentato da OpenAI è importante perché costruisce un caso in cui la soluzione sviluppa una singolarità in tempo finito, mostrando che, almeno nella formulazione considerata, la regolarità non è garantita per sempre.

Le ricadute pratiche della soluzione

Dare la soluzione al problema non cambia nell’immediato gli usi pratici di queste equazioni: continueremo a simulare gli attriti dovuti all’attrito dell’aria in una Formula 1, le dinamiche dei fluidi all’interno di un motore o come in un oleodotto si muovono i fluidi al fine da ottimizzarne la portata. Ma una migliore comprensione dei limiti della loro applicabilità e anche di situazioni patologiche nelle simulazioni è plausibile che portino ad una migliore comprensione dei modelli stessi e che in ultima analisi producano anche ottimizzazioni sulla loro implementazione nei sistemi di calcolo reali.

La validazione scientifica della prova

È importante sottolineare che il risultato raggiunto da OpenAI deve ancora essere validato dalla comunità scientifica e il Clay Mathematics Institute che ha proposto il problema prevede almeno due anni per la verifica di una soluzione. Sicuramente formalizzazione generata da GPT6 nel sistema Lean consente di meccanizzare la verifica della prova e accorciare i tempi, ma resta il problema di verificare che questa formalizzazione rappresenti la formulazione matematica presente nell’articolo di 166 pagine che descrive la soluzione generata.

Il contributo dell’AI alla soluzione di Navier-Stokes

Il progresso scientifico è costruito attraverso lo sforzo congiunto di ricercatori che portano avanti la conoscenza costruendo sui risultati già ottenuti e fornendo il proprio contributo originale che nel tempo può portare ad un progresso delle conoscenze in un certo ambito. Non posso non pensare al Prof. Malcom nel film Jurassic Park che accusa gli scienziati di aver ricostruito i dinosauri semplicemente sfruttando i risultati di altri che non comprendono fino in fondo.

È il tema dell’apprendista stregone, ed è un tema centrale quando l’ultimo miglio lo ha fatto l’AI e non l’uomo costruendo sul lavoro di altri ricercatori (anche se uno dei due ricercatori citati da OpenAI lavora in Anthropic e stavano usando altri modelli AI per lavorare alla soluzione).

Il sistema multiagente di OpenAI e il metodo scientifico

Qual è allora il contributo vero dato dal sistema multiagente di OpenAI nella soluzione? Personalmente ritengo che sia un contributo degno di nota proprio perché ha seguito il modo di procedere che è proprio della scienza e il modello è stato sicuramente influenzato da quanto ha letto in letteratura (sia attraverso i dati di addestramento che poi con le ricerche durante la lavorazione del problema), ma questo avviene anche per noi ricercatori e forse sarebbe più preoccupante che l’AI trovasse una soluzione ad un problema importante su cui non ha lavorato nessuno.

Questo non toglie a mio parere significatività al risultato nell’ipotesi che sia effettivamente validato, e ci fa capire che l’AI può svolgere un ruolo importante nell’avanzamento delle conoscenze che però poggiano su due aspetti centrali: porsi la domanda giusta (e formularla in modo preciso) e verificare in modo rigoroso i risultati che poi entreranno nelle conoscenze delle prossime AI che potranno quindi continuare a supportare nuove domande.

Dal problema di Navier-Stokes alle responsabilità dell’AI

Al di là del risultato ottenuto io credo che sia importante riflettere sulle implicazioni di questo importante risultato. GPT6 lo abbiamo tutti ormai ma quanti sarebbero in grado di ottenere un risultato del genere? Quanti saprebbero formulare la domanda necessaria ad ottenere la soluzione e poi verificarla? Sono domande centrali perché ci dicono che è importante che la formazione delle generazioni future deve fornire gli strumenti affinché possiamo continuare a fare domande interessanti e verificare le soluzioni proposte dall’AI. In troppi pensano ancora che l’AI sia un chatbot o che allucini troppo, ma in quattro anni abbiamo fatto passi da gigante e la verifica delle risposte sta divenendo un aspetto critico.

Il costo della ricerca con i modelli avanzati

Va poi detto che servono risorse economiche per ottenere un risultato: se avessimo pagato i token generati dagli agenti che hanno elaborato la soluzione del problema sarebbero serviti 6 milioni di euro (e poi magari non si trovava neanche la soluzione) al prezzo di Astra, come si valuta il rischio di un investimento in AI? Serviranno esperti che possano valutare se un problema è meritevole di indagine o meno, non sarebbe sostenibile (almeno per il momento) un mondo in cui l’AI si fa domande e cerca autonomamente risposte, è necessario avere una direzione da seguire.

Sicurezza, controllo e formazione delle nuove generazioni

La capacità dei modelli è comunque cresciuta al punto tale da essere un supporto valido per gli esperti, e questo pone sicuramente rischi perché l’AI può secondo la propria logica manipolare persone e macchine per i propri scopi, e lo può fare in modo molto efficace. Questo è il messaggio degli esperti quando dicono che sarebbe bene rallentare per assicurarsi che i nuovi modelli siano sicuri: una AI fuori controllo potrebbe bloccare importanti infrastrutture solo perché ha deciso in modo asettico che ha bisogno di qualcosa per raggiungere il proprio obiettivo.

E se quattro anni fa le AI erano a malapena in grado di risolvere problemi delle elementari oggi abbiamo la prova che sono in grado di affrontare problemi complessi e, forse anche di risolverli. Diventa quindi urgente chiedersi come si possano formare le prossime generazioni affinché possano usare l’AI per raggiungere i propri scopi e non che siano succubi di un’AI senza essere in grado di validare le risposte ottenute o formulare domande interessanti.

La macchina progredisce rapidamente ma il resto del mondo fatica ad abituarsi a questa nuova realtà. Non resta che osservare le evoluzioni e sperare di non finire come in un film di fantascienza distopico, ma la ricerca dei profitti e l’assenza di comprensione di chi governa non consente di essere troppo ottimisti ma mi piace pensare che la vita trovi sempre la via.