Abbiamo provato Prism di OpenAI (lanciato qualche giorno fa), un editor per supportare la scrittura di testi con LaTeX, uno storico sistema molto utilizzato dalla comunità scientifica per la scrittura di articoli, anche grazie alla capacità di scrivere formule matematiche.
LaTeX è un sistema di videoscrittura che prevede che l’autore scriva uno o più file di testo, poi compilati da un compilatore nel documento che ne mostra l’apparenza grafica. Ad esempio, la figura seguente mostra il testo LaTeX e la sua compilazione su un semplice testo (generato) per la sezione aurea.
È proprio la scrittura di equazioni matematiche ad aver preservato la popolarità di questo sistema in ambito scientifico: gli editor WYSIWYG (What You See Is What You Get) sono poco efficienti nella scrittura di formule complesse (e infatti Microsoft Word da molti anni accetta la sintassi LaTeX nel suo editor di formule). In fondo, scrivere documenti LaTeX è un po’ come scrivere pagine Web direttamente in HTML: con un po’ di pratica si diventa rapidamente produttivi.
Indice degli argomenti
AI e scrittura scientifica: perché Prism di OpenAI ha senso
Nel tempo si sono affermati sistemi Web in cui si può vedere rapidamente la compilazione di un testo LaTeX. Uno dei più popolari è Overleaf, che affianca al sorgente il risultato della compilazione per recuperare parte dei benefici dei sistemi WYSIWYG, pur mantenendo l’approccio testuale alla scrittura.
Scrivere LaTeX assomiglia quindi un po’ a scrivere programmi. Non sorprenderà scoprire che i modelli LLM riescano a manipolare il contenuto di un documento LaTeX meglio di quanto riescano a fare con i formati Word, OpenOffice e PDF. Sembra quindi naturale che, con lo sviluppo di sistemi basati su AI per la programmazione, emergessero interfacce come Prism che consentono all’autore di ottenere sorgente LaTeX generato dall’AI direttamente nel testo, in alternativa ai copia e incolla che molti già facevano dalle varie chat.
Dentro l’interfaccia: prompt, file .tex e collaborazione in Prism di OpenAI. La nostra prova
L’interfaccia di Prism, disponibile anche a chi usa il livello gratuito di OpenAI, richiama quella di Overleaf. La vera novità, come abbiamo visto, è data dalla capacità di modificare il sorgente dell’articolo (contenuto in uno o più file con estensione .tex) mediante prompt a ChatGPT.
Da immagini a LaTeX per diagrammi e formule
L’interfaccia consente di creare un progetto ed editare il contenuto dei file sia manualmente (come avviene già nel Canvas di GPT), sia fornendo dati e file da utilizzare per la generazione del contenuto. Ad esempio, si può allegare la foto dello schema di un diagramma e ottenere in cambio la sua versione LaTeX; lo stesso si può fare con le formule matematiche.
Proposte di modifica, evidenziazione e aggiornamento della preview
Ad ogni richiesta di modifiche Prism propone l’inserimento evidenziando il testo generato, un po’ come avviene per le proposte di modifiche al codice. Se accettato, il testo entra a far parte del sorgente. La visualizzazione del risultato della compilazione nel pannello di destra va aggiornata esplicitamente.
Progetti condivisi e scrittura collaborativa
I progetti possono essere condivisi in modo da favorire la scrittura collaborativa dei lavori, tipica dell’ambito scientifico.
Come editor in sé è più rozzo e meno efficace di Overleaf, ma l’integrazione con l’AI rende decisamente interessante lo strumento e può sicuramente accelerare la scrittura di documenti (e articoli scientifici in particolare) rispetto a un editor classico. È interessante osservare come l’abilità di manipolare il codice dei modelli LLM sia particolarmente efficace nella manipolazione del testo.
Non è da escludersi che questo possa attrarre nuovi scrittori LaTeX al di là di chi lo usa per scopi scientifici. In fondo il WYSIWYG è utile quando a scrivere è la persona, ma se il documento è largamente generato l’uso del testo può essere gestito da un autore normale senza perdersi nella complicazione della sintassi.
Il dibattito sull’AI nella ricerca scientifica
Come è già avvenuto per altre forme di letteratura, anche nella ricerca scientifica si è cominciato molto a dibattere sul ruolo dell’AI e degli LLM nella scrittura. Se non si intravedono problemi nel chiedere all’AI la revisione di un testo, è assolutamente plausibile che intere porzioni di lavori scientifici siano generate dall’AI.
In un recente lavoro pubblicato su “Nature human behaviour” dal titolo “Quantifying large language model usage in scientific papers” (W. Liang et. al.) si stima come risultino evidenze di modifiche effettuate da modelli LLM fino al 22% delle pubblicazioni analizzate. Si tratta di numeri da prendere con riserva: gli autori hanno stimato la variazione nell’uso di termini più spesso utilizzati dai modelli, e vi possono quindi essere errori che preservano comunque il valore statistico della ricerca.
Rischi ed etica: cosa cambia con Prism di OpenAI e gli LLM
Se l’impiego dell’AI nella scrittura di testi in genere pone non pochi problemi etici relativi alla proprietà intellettuale del risultato, in scienza il problema è decisamente più rilevante. Da una parte le pubblicazioni scientifiche costituiscono una parte importante dei meccanismi su cui si basa la carriera accademica, e dall’altra c’è il forte rischio che non sia il solo testo, ma il contributo vero e proprio, a essere generato.
Soprattutto, c’è il rischio che allucinazioni portino a errori che l’attuale sistema di verifica e revisione potrebbe non individuare facilmente, portando alla pubblicazione di risultati sostanzialmente falsi. Non è che non sia mai accaduto, ma con l’AI si potrebbe presentare su una scala completamente diversa.
Magari l’AI potrebbe contribuire alla fine del detto “publish or perish” che governa da molto tempo le attività di ricerca scientifica. La realizzazione di strumenti come Prism di OpenAI può contribuire all’evoluzione del settore, aprendo a scenari in cui molte attività tipiche del mestiere saranno supportate dall’intelligenza artificiale.
Conclusioni: l’impatto di Prism di OpenAI su publish or perish
Prism è uno strumento ben fatto e sicuramente sarà utilizzato per la scrittura di testi scientifici. Certo, Overleaf e altri editor saranno estesi con il supporto per l’AI, ma sembra essere un passo avanti nello sviluppo di nuovi sistemi di scrittura dove l’AI svolge un ruolo attivo e può contribuire sia nella stesura dei testi sia nella generazione di contenuto, a volte anche originale.
Sarà sempre più difficile separare i contributi degli autori da quelli del supporto, ma immagino che come sempre ci adatteremo. Da ricercatore spero che questa evoluzione contribuisca a ridurre la valutazione accademica basata sui numeri e si torni a una valutazione dei contenuti, anche perché ritengo che la validazione di lavori scientifici generati in parte dall’AI richieda molta più attenzione e tempo per verificare ogni singola affermazione.
Questo serve a evitare che affermazioni e risultati falsi entrino nella letteratura scientifica, e che possano contribuire a deviare l’addestramento anche delle future AI.
