Nuovi virus creati dall’AI: ecco tutte le ricadute su scienza e sicurezza

L’AI è stata utilizzata per progettare virus completamente nuovi, pienamente funzionali e in grado di replicarsi in laboratorio. È la prima volta che l’intelligenza artificiale riesce a ideare e sviluppare con successo genomi completi.

Tuttavia questa scoperta, di un gruppo di ricercatori americani, già definita una svolta molto significativa nella scienza, in grado di aprire una nuova era nella cura delle malattie, solleva anche urgenti preoccupazioni in materia di sicurezza e protezione.

Vediamo in termini obiettivi tutte le possibili e ampie ricadute di questa scoperta.

“Faccio un po’ fatica a comprendere lo stupore di fronte a questa notizia. Già un paio di anni fa si parlava di intelligenze artificiali capaci sintetizzare formule di nuovi antibiotici efficaci contro batteri che avevano sviluppato resistenza a a quelli tradizionali. Questa è l’altra faccia della medaglia”, commenta Alessandro Curioni, Presidente e fondatore di DI.GI Academy.

L’AI progetta virus completamente nuovi: lo studio

Nelle ultime settimane i sistemi di intelligenza artificiale hanno dato prova di alcune nuove capacità che hanno sorpreso gli esperti: sono riusciti a sfuggire ai propri confini, ad hackerare altre aziende e a mentire alle persone.

I 16 nuovi virus ottenuti sono stati creati per infettare i batteri e non rappresentano alcuna minaccia per le persone.

Gli strumenti di IA stanno avanzando rapidamente e sono già stati utilizzati per progettare nuovi antibiotici, come quello contro una malattia sessualmente trasmissibile come la gonorrea, e vaccini di ultima generazione. Ma si tratta di un’operazione relativamente semplice rispetto alla progettazione ex novo di un nuovo virus vitale.

“Questo è un ulteriore passo avanti nella complessità che può essere progettata dall’IA generativa; è la prima volta che si utilizza l’AI generativa per progettare un genoma completo, qualcosa in grado di replicarsi e di svolgere altre funzioni all’interno delle cellule… per noi era un territorio inesplorato” ha dichiarato alla BBC Brian Hie, assistente professore presso l’Università di Stanford, biologo computazionale a Stanford ed autore dello studio.

La ricerca

Il nuovo studio, pubblicato sulla rivista Science, a firma di ricercatori dell’Università di Stanford, dell’Arc Institute e di un ente di ricerca con sede a Palo Alto in California, va ben oltre la semplice duplicazione dei geni virali.

Infatti gli scienziati hanno insegnato all’intelligenza artificiale a riconoscere i modelli della struttura del DNA presenti in natura. E successivamente, gli hanno insegnato a sfruttare tali dati per scrivere “ricette” per virus completamente nuovi.

I ricercatori hanno poi seguito le indicazioni ricevute per creare molecole di DNA, che hanno poi inserito nei batteri. I batteri modificati hanno quindi prodotto virus mai osservati in natura. I virus sono stati in grado di infettare altri batteri, dimostrando così la loro vitalità senza però rappresentare alcuna minaccia per gli esseri umani.

Se le cellule batteriche fossero morte, significava che i virus funzionavano. I ricercatori hanno testato circa 300 di questi progetti, fino a vedere uno dei loro virus AI-generated replicarsi con successo, infettando e uccidendo le cellule batteriche. Ben 16 dei loro virus hanno dimostrato di funzionare.

La vera novità dello studio

Costruire artificialmente un virus non è una novità in sé. Nel 2002 un gruppo guidato da Eckard Wimmer sintetizzò chimicamente il genoma del poliovirus utilizzando come istruzione la sequenza genetica già conosciuta, ottenendo poi particelle virali infettive. Nel 2003 il gruppo di Craig Venter assemblò chimicamente l’intero genoma del batteriofago ΦX174, lungo 5.386 basi, ancora una volta partendo dalla sequenza naturale nota. Nel 2005 fu ricostruito tramite reverse genetics anche il virus influenzale del 1918 per studiarne le caratteristiche biologiche.

In questi casi il problema era soprattutto scrivere fisicamente un genoma di cui si conosceva già il progetto, oppure ricostruirlo e modificarlo in modo mirato. È un risultato scientifico enorme, ma concettualmente diverso.

Nel nuovo studio l’AI ha contribuito invece alla fase di design. I ricercatori non le hanno consegnato semplicemente il genoma di ΦX174 chiedendole di copiarlo nucleotide per nucleotide. Hanno usato modelli addestrati a riconoscere regolarità in grandi quantità di DNA e li hanno poi specializzati affinché generassero nuove sequenze genomiche compatibili con l’architettura e le funzioni di virus simili a ΦX174. La differenza, in termini informatici, è quella tra riprodurre un file già esistente e generare nuovi file che devono rispettare contemporaneamente migliaia di vincoli per risultare funzionanti.

È precisamente questo il senso della “prima volta”. Non la prima sintesi di un virus, non la prima manipolazione di geni virali e neppure il primo utilizzo dell’AI in biologia. È la prima dimostrazione sperimentale che un modello generativo del DNA può produrre genomi virali completi nuovi, che una volta costruiti risultano vitali. La distinzione emerge anche dal materiale giornalistico che ha accompagnato la pubblicazione dello studio.

Negli ultimi anni i modelli di AI hanno già dimostrato di poter prevedere strutture proteiche, progettare nuove proteine, generare sequenze di DNA e lavorare su complessi biologici composti da più elementi. Evo era nato proprio per estendere la logica dei language model al codice genetico: invece di imparare quali parole tendono a seguire altre parole, il modello impara le regolarità statistiche che caratterizzano sequenze di nucleotidi.

Ma un genoma non è una semplice concatenazione di geni.

Per funzionare, un virus deve produrre le proteine giuste nelle quantità giuste, replicare il proprio materiale genetico, assemblare correttamente le particelle virali, riconoscere un ospite, entrare nel ciclo infettivo e coordinare tutti questi passaggi. Inoltre, parti diverse del genoma possono avere più funzioni contemporaneamente. Una mutazione apparentemente innocua per una proteina può alterare un elemento regolatorio o un altro gene sovrapposto.

ΦX174 è un esempio particolarmente interessante. Il suo genoma è minuscolo rispetto a quello umano — 5.386 nucleotidi contro oltre tre miliardi — ma contiene 11 geni e presenta regioni sovrapposte. In altre parole, alcune lettere del DNA contribuiscono contemporaneamente a più istruzioni biologiche. Modificarle significa soddisfare più vincoli nello stesso punto.

È una delle ragioni per cui il passaggio dal design di una proteina al design di un genoma è sostanziale. Come osservano Thomas Inglesby e Moritz Hanke della Johns Hopkins University in una Perspective pubblicata nello stesso numero di Science, progettare un genoma completo richiede di gestire un livello superiore di architettura biologica, comprese le relazioni tra diversi prodotti genomici.

Come hanno lavorato Evo 1 ed Evo 2

Evo 1 ed Evo 2 appartengono alla famiglia dei genome language model. Evo 2, nella sua versione generale, è stato addestrato su circa 9 mila miliardi di nucleotidi provenienti da un ampio atlante genomico e dispone di una finestra di contesto che può arrivare a un milione di token a risoluzione di singolo nucleotide.

Per l’esperimento sui batteriofagi, però, non è bastato prendere un foundation model generalista e chiedergli genericamente di “inventare un virus”.

Il gruppo ha utilizzato ΦX174 come modello biologico di riferimento e ha ulteriormente specializzato Evo su circa 14.500 sequenze della famiglia Microviridae. Ha poi costruito una pipeline per valutare le sequenze generate sulla base di caratteristiche compatibili con un genoma fagico funzionante, della specificità verso il batterio ospite e della distanza evolutiva rispetto ai virus già conosciuti.

È un elemento importante per capire il risultato. Non si tratta di un chatbot a cui è stato impartito un comando in linguaggio naturale, seguito immediatamente dalla comparsa di un virus. Intorno al modello c’è un sistema di selezione bioinformatica e, soprattutto, una successiva validazione sperimentale.

I ricercatori hanno infatti generato un grande numero di possibili genomi, ne hanno selezionato una piccola frazione e hanno testato in laboratorio 285 design. Di questi, 16 hanno dato origine a batteriofagi vitali.

La maggior parte, dunque, non ha funzionato. Anche questo dato aiuta a collocare correttamente la portata della scoperta: l’AI non possiede ancora una comprensione infallibile delle regole necessarie alla costruzione di un virus. Ma una percentuale non trascurabile delle sue proposte ha superato un test molto più severo di qualunque valutazione puramente computazionale: ha funzionato nel mondo fisico.

Dal DNA generato al virus che si replica

Il test decisivo consisteva proprio nel verificare se le sequenze progettate potessero attraversare l’intero ciclo necessario alla formazione di un batteriofago.

Il DNA sintetico è stato introdotto nel sistema batterico utilizzato dagli sperimentatori. Se il progetto era biologicamente coerente, la cellula batterica poteva leggere quelle istruzioni, produrre i componenti virali, assemblarli e generare nuove particelle capaci a loro volta di infettare altri batteri. È ciò che è avvenuto per i 16 genomi selezionati come funzionali.

Alcuni dei virus prodotti non erano semplicemente copie indebolite di ΦX174. In determinate condizioni sperimentali alcuni hanno mostrato una fitness superiore a quella del virus naturale utilizzato come riferimento. Tutti mantenevano inoltre la specificità verso un numero limitato di ceppi di E. coli, un risultato importante perché dimostra che il modello è riuscito a modificare ampie parti del genoma preservando una funzione richiesta, cioè il tropismo verso l’ospite scelto.

Gli autori hanno anche misurato quanto i genomi generati differissero dalle sequenze naturali note. I 16 virus funzionali presentavano tra 67 e 392 differenze rispetto al parente naturale più vicino; in tredici casi erano presenti variazioni non rintracciate nelle sequenze naturali conosciute analizzate dal gruppo. Uno dei genomi, Evo-Φ2147, mostrava un’identità nucleotidica media del 93% rispetto al parente naturale più vicino, abbastanza distante da rientrare, secondo alcuni criteri tassonomici, nella fascia compatibile con una nuova specie.

In un altro caso, Evo-Φ36, il modello aveva integrato una variante particolarmente distante della proteina J, coinvolta nel confezionamento del DNA nel capside. La struttura è stata analizzata anche mediante microscopia crioelettronica. È un risultato interessante perché suggerisce che il modello non si sia limitato a introdurre mutazioni isolate, ma sia riuscito in alcuni casi a trovare combinazioni di cambiamenti compatibili tra loro.

È qui che il termine “generativo” acquista significato scientifico: la macchina esplora configurazioni genetiche che non corrispondono semplicemente a un esemplare già presente nel database.

Dalla lettura del DNA alla sua progettazione

La storia di ΦX174 offre quasi involontariamente una sintesi dell’evoluzione della genomica.

Nel 1977 divenne il primo genoma completo a essere sequenziato. Nel 2003 fu utilizzato per dimostrare che un intero genoma virale poteva essere assemblato chimicamente a partire da oligonucleotidi. Oggi lo stesso piccolo virus è diventato il banco di prova per la progettazione generativa di un genoma completo.

Prima abbiamo imparato a leggere il DNA. Poi a scriverlo. Ora iniziamo a delegare alle macchine una parte del processo di progettazione.

La differenza non è semantica. La biologia sintetica tradizionale richiede spesso che il ricercatore abbia un’ipotesi relativamente precisa: modificare un gene, sostituire una proteina, eliminare una regione, combinare moduli già noti. Un modello generativo può invece esplorare uno spazio di sequenze immensamente più ampio e proporre configurazioni che nessun ricercatore avrebbe necessariamente selezionato a mano.

Il vantaggio potenziale non è soltanto la velocità. È la possibilità di scoprire regole biologiche che oggi conosciamo solo parzialmente. Se un modello riesce ripetutamente a generare genomi funzionanti, analizzare quali combinazioni abbiano avuto successo e quali siano fallite può diventare anche un nuovo modo per studiare le interazioni tra geni, proteine e regioni regolatorie.

La prima applicazione possibile: nuovi batteriofagi contro la resistenza

Il caso d’uso più immediato indicato dagli autori riguarda la terapia fagica.

I batteriofagi attaccano specificamente i batteri e da tempo vengono studiati come possibile complemento agli antibiotici, in particolare contro infezioni resistenti. Il problema è che anche i batteri possono evolvere resistenza ai fagi. Disporre rapidamente di molte varianti geneticamente differenti potrebbe rendere possibile costruire cocktail più difficili da neutralizzare attraverso una singola mutazione batterica.

Nel lavoro pubblicato su Science, il gruppo ha fatto evolvere tre popolazioni di E. coli resistenti a ΦX174. Cocktail composti da fagi generati dall’AI sono riusciti a superare la resistenza nei test sperimentali, mentre il ΦX174 naturale non vi riusciva.

È un risultato promettente, ma non equivale a dimostrare una nuova terapia.

Gli esperimenti sono stati effettuati su batteri in laboratorio. Tra un batteriofago efficace in una piastra e un trattamento utilizzabile su un paziente esistono problemi di sicurezza, farmacologia, risposta immunitaria, produzione, stabilità, selezione del bersaglio e sperimentazione clinica. Lo studio mostra quindi una piattaforma di design, non un nuovo antibiotico già disponibile.

Il valore più ampio potrebbe essere metodologico: passare dalla ricerca di fagi adatti in natura a un processo in cui sequenze naturali, modelli generativi e test sperimentali formano un ciclo continuo di progettazione e selezione.

I rischi legati all’Ai per progettare virus

La stessa proprietà che rende interessante la tecnologia produce inevitabilmente la domanda più delicata: se un’AI può progettare un batteriofago, potrebbe un giorno progettare un virus pericoloso per l’uomo?

È una domanda legittima. Inglesby e Hanke scrivono nella Perspective che accompagna lo studio che la capacità di comporre genomi virali attraverso AI generativa ormai esiste, mentre la governance necessaria per gestirla in sicurezza è ancora incompleta. Sottolineano inoltre che lo stesso principio potrebbe non restare confinato ai batteriofagi.

“Non ho dubbi che se addestrata potrebbe tranquillamente sviluppare tossine letali e di cui non esiste antidoto (forse più semplice da creare di un virus). Detto questo ‘skynet e zone limitrofe’ non credo sia di attualità. Ben più ‘presenti’ saranno invece usi e abusi”, mette in guardia Alessandro Curioni.

Lo studio, che documenta esperimenti conclusisi circa un anno fa, arriva in un momento di crescente preoccupazione riguardo al pericolo rappresentato dai modelli di AI sempre più potenti.

A partire da metà luglio, OpenAI, Anthropic e Meta Platforms hanno reso noti episodi in cui i loro modelli sono sfuggiti agli ambienti controllati, si sono collegati a Internet, hackerando i computer di altre aziende.

Il modello Mythos di Anthropic ha messo in atto azioni ingannevoli, mentre i modelli di OpenAI si sono scambiati consigli su una bacheca segreta.
Il potenziale utilizzo di chatbot o agenti per sviluppare agenti patogeni letali è da tempo motivo di preoccupazione tra gli esperti di sicurezza dell’IA.

L’anno scorso, dopo il rilascio di una versione aggiornata di ChatGPT, centinaia di persone hanno interrogato il chatbot per chiedergli come produrre armi biologiche e veleni. La soluzione di Sam Altman ha risposto fornendo istruzioni che gli esperti di biologia e terrorismo hanno giudicato accurate.

Improbabile che sia un rischio immediato per la sicurezza

Gli esperti hanno affermato che la ricerca del team di Stanford non rappresenta un rischio immediato per la sicurezza.

È improbabile che possa essere applicata immediatamente ai virus che infettano gli esseri umani. Questi virus sono infatti molto più grandi e complessi di quelli sintetizzati nell’esperimento.
“Quando la gente sente che un virus è stato generato dall’intelligenza artificiale, molti ne rimangono terrorizzati”, ha spiegato al Wall Street Journal Peter Koo, biologo computazionale presso il Cold Spring Harbor Laboratory. “Ma i virus umani sono molto diversi”.
Samuel King, dottorando presso l’Università di Stanford e autore dello studio, ha spiegato che il team ha cercato di comprendere più a fondo le sequenze di DNA che costituiscono tutta la vita sulla Terra. “È questo che ha dato origine a tutta la meravigliosa diversità biologica che ci circonda”, ha affermato King.

Genomica generativa: le opportunità per la medicina

Gli scienziati hanno sviluppato i modelli di AI per il loro studio. Come i chatbot di uso comune, tra cui ChatGPT, si basano su grandi modelli linguistici (LLM) che analizzano le relazioni matematiche tra le parole nel testo per creare nuove stringhe di testo.

I loro modelli, denominati Evo 1 ed Evo 2, hanno ricevuto un addestramento su sequenze genetiche per prevedere la base di DNA successiva.

Per motivi di sicurezza, hanno addestrato i modelli esclusivamente su DNA proveniente da virus che non possono infettare gli esseri umani.
King ha spiegato che volevano verificare se l’AI fosse in grado di comprendere il DNA in modo sufficientemente sofisticato da riuscire a cogliere tutte le complesse componenti di un genoma che richiedono un coordinamento tra loro. Ciò che hanno scoperto è che l’AI ne è in grado.

Per la prima volta, un modello di IA ha creato un nuovo virus. Anzi, un’intera famiglia di virus.

Il bio-hacking desta preoccupazione, ma i ricercatori sostengono che l’esperimento potrebbe fornire una protezione contro i batteri resistenti ai farmaci.
In un’intervista, due degli autori hanno affermato che la loro ricerca potrebbe contribuire allo sviluppo di virus “su misura” utilizzabili per eliminare i batteri resistenti ai farmaci, che secondo l’Organizzazione Mondiale della Sanità uccidono milioni di persone ogni anno.
“Se lo sviluppiamo in modo responsabile, penso che possa portare a enormi benefici per la salute umana”, ha dichiarato Brian Hie al Wall Street Journal.

Regolamenti e prospettive future dell’AI applicata ai nuovi virus

Esperti indipendenti di biologia computazionale e biosicurezza hanno affermato che la ricerca rappresenta una pietra miliare nel settore. “È la prima volta che qualcuno utilizza l’intelligenza artificiale generativa per riprogettare un virus”, ha spiegato Kevin Esvelt, professore associato al Massachusetts Institute of Technology.
È possibile che un giorno qualcuno sfrutti un approccio simile per creare proteine virali o virus stessi in grado di infettare le persone ed eludere la protezione dei vaccini o le risposte immunitarie naturali.

“Quello strumento permetterà alle persone di creare nuove varianti come il Covid, che si diffonderanno fino a contagiare la maggior parte della popolazione”, teme Esvelt: “Questo sarebbe un male. Non dovremmo farlo”.
Per ora, ha affermato Hie, sarebbe molto più semplice per un potenziale bioterrorista produrre uno dei tanti agenti patogeni che sono già garantiti al 100% come letali. “Se fossi un malintenzionato che cerca di progettare un agente patogeno o qualcosa per causare danni, non userei l’intelligenza artificiale”, afferma Hie.

Come supervisionare la genomica generativa

La biotecnologia è regolamentata da un mosaico di leggi e agenzie negli Usa, con le innovazioni che spesso superano di gran lunga la capacità di adeguamento delle autorità di regolamentazione.

Solo il mese scorso l’amministrazione Trump ha emanato una linea guida volta a bloccare la ricerca ad alto rischio nel campo delle scienze della vita.

Secondo Axios, la normativa vieta la ricerca sul “guadagno di funzione” finanziata con fondi federali e richiede una maggiore supervisione dei progetti che coinvolgono agenti biologici nocivi.
Tuttavia, la linea guida non ha affrontato in modo specifico la ricerca basata sull’intelligenza artificiale, che si sta evolvendo a una velocità vertiginosa.
Thomas Inglesby e Moritz Hanke, esperti di sicurezza sanitaria della Johns Hopkins, in un articolo pubblicato sullo stesso numero di Science, hanno elogiato il team di Stanford per aver adottato le dovute precauzioni.

Tuttavia hanno affermato che non esistono sufficienti misure di salvaguardia per supervisionare la genomica generativa.

«La capacità di comporre genomi virali utilizzando l’IA generativa ora esiste; la governance necessaria per gestirla in modo sicuro no», hanno scritto.

“Per esempio, se le IA hanno sviluppato nuovi farmaci curativi, allora dove sono? Sarebbe interessante capire come l’industria farmaceutica sta gestendo le innovazioni. Prevalgono gli ammortamenti a bilancio oppure le finalità umanitaria. Giusto per farsi una domanda diversa, ma che riguarda il vero tema ovvero come noi esseri umani usiamo lo strumento e questa è la storia delle invenzioni a partire dalla ruota”, conclude Alessandro Curioni.