AI generativa nella ricerca: regole per un uso responsabile

Posso usare l’AI generativa per svolgere attività di ricerca? La risposta non può che essere sì.

Ma è un sì che richiede qualche attenzione: più precisamente “sì, ma rispettando alcuni principi”.

Questo, in sostanza, il contenuto del documento titolato Living guidelines on the responsible use of generative ai in research pubblicato sul sito della Commissione UE Research and Innovation in data 15 aprile 2025.

L’obiettivo del documento è fornire raccomandazioni ai ricercatori, alle organizzazioni di ricerca ed ai finanziatori della ricerca nell’ecosistema sia pubblico che privato, incoraggiando un utilizzo responsabile delle cosiddette “GenAI” nell’attività di ricerca e ad un impegno congiunto di tutti i coloro che – in qualità di individui o di organizzazioni – ne sono coinvolti e che per tale ragione sono chiamati promuoverne un utilizzo appropriato ed efficace.

Vediamo allora cosa si dice.

Principi guida per l’uso dell’AI generativa nella ricerca

Le linee guida tengono conto dei principi chiave e del quadro normativo europeo preesistente, riprendendone i punti cardine.

In linea con quanto già previsto dal “Codice di condotta europeo per l’integrità della ricerca” (c.d. AllEA) i principi su cui si fonda l’utilizzo delle GenAI nell’attività di ricerca sono quindi:

• affidabilità nella qualità della ricerca e in ogni sua fase: dalla progettazione, all’utilizzo delle risorse;
• onestà nello svolgimento della ricerca e nella sua divulgazione;
• rispetto per chiunque e a qualsiasi titolo, sia coinvolto nell’attività di ricerca (dai partecipanti, fino al patrimonio culturale e all’ambiente);
• responsabilità per la ricerca, per la sua complessiva gestione e organizzazione, nonché per i risultati da essa prodotti, con un importante focus sulla supervisione umana (in linea con l’approccio “human centered” adottato dall’A.I. Act).

I principi AllEA, nati per guidare i ricercatori nell’ affrontare le sfide pratiche, etiche e intellettuali poste dall’attività di ricerca, rappresentano quindi un sistema di “valori guida” pienamente applicabile anche alle alle GenAI.

Stesso discorso anche per le “Linee guida etiche per un’IA affidabile” che, redatte dal Gruppo di esperti di alto livello sull’IA dell’Unione, forniscono una serie requisiti per lo sviluppo etico di sistemi di IA e possono rappresentare un utile punto di riferimento anche per l’IA generativa.

Integrazione e aggiornamento delle linee guida

Il documento indica poi altri principi (ad esempio: trasparenza sull’utilizzo della GenAI, verifica della correttezza dell’output generato, rispetto dei dati personali e delle informazioni riservate) di diversa provenienza ed esorta all’integrazione con quelli contenuti in altre fonti.

Le linee guida si basano infatti sullo stato attuale della tecnologia e sul panorama politico circostante e dovranno quindi evolversi e aggiornarsi costantemente per risultare efficaci.

Ruoli e responsabilità nella filiera della ricerca

Perché la GenAI venga utilizzata responsabilmente, le linee guida rivolgono specifiche raccomandazioni ai ricercatori, alle organizzazioni di ricerca e alle organizzazioni che finanziano la ricerca.

Cosa dovrebbero fare i ricercatori

Più specificamente, i ricercatori dovrebbero:

• assumersi la responsabilità finale dei risultati della ricerca. In linea con l’approccio human centered già sposato dall’A.I. Act, solo ricercatore potrà considerarsi effettivo autore/coautore della ricerca. Il concetto di “paternità” è infatti strettamente legato a quelli di agenzia e responsabilità e non può quindi riferirsi ad un’IA. Consapevole dei limiti connaturati a tali strumenti, il ricercatore è chiamato verificare sempre l’integrità dei contenuti generati da/con il supporto della GenAI e a mantenere un approccio critico nei confronti degli output prodotti.
• Utilizzare la GenAI in modo trasparente. In caso di utilizzo sostanziale dell’IA generativa nei processi di ricerca, i ricercatori dovrebbero dettagliare gli strumenti utilizzati. Allo stesso modo, se l’utilizzo della GenAI è significativo, dovrebbero darne atto, valutando la portata del contenuto e, qualora necessario, rendendo disponibili input (“prompt”) e output. Dovranno inoltre tenere in debita considerazione le possibili distorsioni dei contenuti generati e le possibili misure di mitigazione.
• Prestare particolare attenzione alle questioni relative alla privacy, sicurezza e proprietà intellettuale. Quando gli input condivisi con gli strumenti di IA contengono informazioni sensibili o lavori non pubblicati, i ricercatori dovrebbero accertarsi che non si tratta di sistemi esterni, a meno che non vi siano garanzie che i dati non saranno riutilizzati. I dati personali della persona interessata non possono essere forniti a sistemi esterni di GenAI, meno che questa non abbia prestato il proprio consenso e i ricercatori abbiano un preciso obiettivo legato al loro utilizzo. I ricercatori dovrebbero, inoltre, comprendere le implicazioni tecniche, etiche e di sicurezza legate alla privacy, alla riservatezza e alla proprietà intellettuale.
• Rispettare la legislazione nazionale, europea e internazionale applicabile. Posto che l’output prodotto da una GenAI può basarsi su risultati altrui o contenere altrui dati personali, i ricercatori dovrebbero prestare particolare attenzione ai diritti di questi ultimi, assicurando adeguata citazione (nel primo caso) e il rispetto delle norme UE in materia di protezione dei dati (nel secondo caso).
• Essere continuamente aggiornati sul corretto utilizzo della GenAI. Per massimizzare i vantaggi legati all’utilizzo della GenAI i ricercatori si tengono aggiornati sulle migliori pratiche e sulle tecniche più adatte a minimizzare l’impatto ambientale, condividendole con i colleghi e le parti interessate.
• Astenersi dall’utilizzo sostanziale della GenAI in attività sensibili che potrebbero avere impatto su altri ricercatori o organizzazioni.

I compiti delle organizzazioni di ricerca

Spetterebbe invece alle organizzazioni di ricerca:

• promuovere, guidare e sostenere l’uso responsabile della GenAI nelle attività di ricerca. Le organizzazioni di ricerca forniscono e facilitano la formazione per tutte le discipline e livelli di carriera. Inoltre, incoraggiano e supportano il personale nell’utilizzo trasparente della GenAI, fornendo linee guida che garantiscono la conformità dell’attività ai requisiti etici e legali.
• Seguire attivamente l’uso dei sistemi di GenAI all’interno delle loro organizzazioni. Le organizzazioni di ricerca monitorano costantemente l’utilizzo delle GenAI nei processi di ricerca e ne analizzano i limiti, così da poter fornire feedback e raccomandazioni ai propri ricercatori. Tengono inoltre traccia dell’impatto ambientale dell’utilizzo delle GenAI, incoraggiando il personale ad adottare l’opzione più sostenibile.
• Integrare le linee guida della Commissione sulla GenAI nelle proprie linee guida generali sulla ricerca. Le organizzazioni di ricerca applicano le Linee guida in oggetto tutte le volte in cui ciò è possibile, consultano il proprio personale e, se opportuno, provvedono alla loro integrazione con specifiche raccomandazioni aggiuntive.
• Implementare strumenti di GenAI locali o basati su cloud gestiti a livello interno.

Ruolo delle organizzazioni che finanziano la ricerca

Per quanto riguarda le organizzazioni che finanziano la ricerca, la Commissione ne mette in evidenza la diversità in termini di ambito di operatività e di mandati/regolamenti cui le stesse sono tenute a conformarsi.

Per tali ragioni, pur chiamate al rispetto delle Linee guida e delle buone pratiche in oggetto, le stesse manterranno un margine di autonomia tale da consentirne l’adattamento ad esigenze e circostanze specifiche.

Perché la GenAI venga utilizzata responsabilmente, tali organizzazioni dovrebbero dunque:

• promuovere e sostenere l’uso responsabile della GenAI nella ricerca. In particolare, favorendo la progettazione di strumenti finanziari che incentivino l’uso etico e responsabile delle GenAI e incoraggiando attività di ricerca e ricercatori al rispetto degli standard di ricerca, delle buone pratiche e dei requisiti legali richiesti dalla legislazione (nazionale, europea e internazionale) esistente.
• Rivedere l’uso della GenAI nei processi interni. In linea col principio di responsabilità, tali organizzazioni rimangono pienamente responsabili dell’utilizzo della GenAI, che è consentito per attività quali la gestione della valutazione e il miglioramento dei processi interni, ma non può avere alcun ruolo nella valutazione del contenuto scientifico dei progetti. Inoltre, nella scelta dello strumento di GenAI, le organizzazioni si accertano che questo sia compliant agli standard di qualità, trasparenza, integrità, protezione dei dati, riservatezza e rispetto della proprietà intellettuale, oltre che sostenibile dal punto di vista ambientale.
• Richiedere ai candidati trasparenza circa l’eventuale utilizzo di GenAI e facilitarne le modalità di segnalazione. In particolare, qualora abbiano utilizzato strumenti di GenAI nella preparazione della domanda o nell’attività di ricerca proposta/svolta, i candidati sono tenuti a darne atto e fornire indicazioni sul ruolo da questa svolto. Dal canto loro, le organizzazioni, devono promuovere un’atmosfera in cui i ricercatori possano rivelare l’utilizzo di tali strumenti senza temere ripercussioni.
• Monitorare e partecipare attivamente all’evoluzione del panorama della GenAI. Le organizzazioni promuovono e finanziano programmi formazione ed educazione per incentivare un uso etico e responsabile di tali strumenti nell’attività di ricerca scientifica.

Una rivoluzione già in atto nella ricerca scientifica

L’esigenza di predisporre una guida all’utilizzo responsabile delle GenAI nell’attività di ricerca, testimonia chiaramente che la rivoluzione dell’IA non è in arrivo: è già qui.

Il futuro della ricerca scientifica sarà allora nelle mani di chi sarà in grado di utilizzarla in modo efficiente, responsabile, trasparente e sostenibile. Prepariamoci.