inflazione testuale

Come gestire l’eccesso di testi prodotti dall’IA generativa? Le sfide da affrontare

Le attuali AI come ChatGPT generano testi con informazioni errate. In un futuro in cui saranno le macchine a sintetizzare i contenuti è difficile immaginare che l’AI che li leggerà sia in grado di individuare tali errori. Come potremo ristabilire delle procedure comunemente accettate per verificare le informazioni ricevute?

Pubblicato il 09 Mag 2023

Antonio Cisternino

Università di Pisa

shutterstock_2083343668 (1)

La scrittura e la lettura hanno caratterizzato la storia umana, e l’abilità di leggere e scrivere hanno caratterizzato momenti fondamentali nella storia dell’uomo. Non è un caso che uno dei primi impieghi del personal computer sia stato quello di semplificare la stesura di documenti.

La funzione del “copia e incolla” ha contribuito in modo significativo ad aumentare il numero di documenti prodotti. I modelli e gli altri meccanismi, oltre ai programmi, hanno ulteriormente contribuito al punto tale che in poco più di trent’anni si stima che si producano molti più documenti di quelli che la popolazione terrestre può leggere. Per il 2025 si stima che l’umanità genererà 175 zettabytes ovvero un numero di bytes pari 175 seguito da 21 zeri.

In questo contesto in cui la generazione di documenti è divenuta all’ordine del giorno, arriva la capacità generativa dell’intelligenza artificiale come quella di ChatGPT. Adesso è possibile generare interi libri con queste tecnologie, oppure farsi scrivere una bozza di un paragrafo da copiare e incollare nel proprio documento. Già ora è possibile utilizzare la Bing bar all’interno del browser Edge per richiedere la stesura di paragrafi o interi articoli di blog dato uno spunto.

Se i testi generati non sono forse ancora all’altezza di essere pronti, e soprattutto è necessario verificare le informazioni generate, sicuramente costituiscono una base di partenza per la stesura di un documento, contribuendo ad incrementarne la velocità di generazione.

In questo eccesso di produzione documentale si pone il problema di chi debba leggere tutti i documenti scritti. Non sono riuscito a trovare una fonte diretta, ma se è vero che negli ultimi due anni abbiamo generato il 90% dei dati esistenti, è facile convincersi che i documenti sono più di quanto l’umanità possa leggere.

Come osserva l’intelligenza artificiale: “L’eccesso di documenti prodotti dall’umanità è quindi una sfida e un’opportunità che richiede nuove competenze, nuove abitudini e nuove strategie da parte degli individui e delle organizzazioni. Chi saprà adattarsi e innovarsi avrà un vantaggio competitivo nel mondo dell’informazione.”

In poche parole, sarà necessario farsi aiutare da qualcuno per dominare questo eccesso di produzione documentale, e i motori di ricerca cominciano ad essere in affanno poiché anche aumentando la “precisione” degli algoritmi è ormai esperienza comune che vengono restituiti troppi documenti.

È inevitabile quindi cedere alla tentazione di chiedere di riassumere un contenuto all’intelligenza artificiale, e ChatGPT ha stupito in molti per la capacità di sintetizzare il contenuto di una fonte di informazione come un testo.

Si tratta di un cambiamento epocale: le macchine generano documenti affinché altre macchine possano sintetizzarli agli uomini. Se può sembrare una prospettiva fantascientifica in realtà vi sono altri settori in cui ormai sono le macchine a comunicare al posto degli uomini: la quasi totalità delle contrattazioni finanziarie sui mercati mondiali sono effettuate da programmi che negoziano con altri programmi, in una realtà ben distante da quella che era la borsa al tempo di “una poltrona per due”.

Aspettando Copilot

Microsoft ha investito ingenti risorse su OpenAI e la tecnologia GPT, sappiamo come la barra di Bing abbia fatto uso di GPT-4 qualche settimana prima del rilascio ufficiale, e siamo tutti in attesa del rilascio della tecnologia Copilot 365, ovverosia l’integrazione di GPT all’interno delle applicazioni di Office 365.

Non vedo l’ora di poter caricare un progetto in formato Word all’interno di PowerPoint ed ottenere la presentazione del progetto, magari anche con le immagini generate dall’AI generativa DALL-E già usata da Bing Image Creator per la generazione di immagini a partire da testo (per ora inglese).

Viceversa, sarà possibile chiedere a Word di scrivere un primo draft di un documento aggirando la temuta sindrome del documento vuoto e come iniziare a scrivere qualcosa.

Copilot in Outlook leggerà la posta per noi sintetizzando discussioni di posta elettronica ed effettivamente evitandoci la pedissequa lettura di molti messaggi. L’integrazione in Teams consentirà di ottenere le minute di una riunione senza dover manualmente copiare la trascrizione fatta in ChatGPT per chiedere il verbale.

Conversazioni umane e “artificiali”, non facciamoci abbagliare da ChatGPT: ecco dove il confine è netto

Infine, si potranno generare vere e proprie applicazioni in PowerApps semplicemente descrivendo le proprie necessità.

È difficile capire quanto queste funzioni contribuiranno veramente a ridurre il carico di lavoro, ma sicuramente l’integrazione dell’AI generativa all’interno della piattaforma produttiva accelererà, se possibile, ancor di più la produzione documentale.

Attenzione ai riassunti

Questa inflazione documentale non farà altro che togliere valore ai testi scritti, ma è necessario tenere presente che non sempre un riassunto sostituisce un documento. E allora è naturale chiedersi: quanto le scelte effettuate da un’intelligenza artificiale (sperabilmente ignara) potranno condizionare le scelte dei grandi della Terra? Quale sarà un processo che possa assicurare una verifica delle informazioni prodotte? Oppure dovremo assistere ad una nuova forma di decisione in cui invece di attingere ai dati si attingerà alla loro interpretazione da parte dell’intelligenza artificiale?

Si tratta di domande centrali, e non si può pensare che bloccare una sola di queste tecnologie possa rallentare il processo. I modelli aperti come LLaMa o GPT-j, o GPT4All consentiranno comunque di riassumere testi, e influenzeranno comunque la nostra capacità decisionale. Fa sorridere la storia di un fortunato che seguendo le istruzioni di ChatGPT abbia investito 100$ fino a guadagnarne oltre 20mila, ma c’è il rischio concreto che la possibilità di ottenere indicazioni strategiche generate da questi sistemi possa essere pericolosa.

Qualcuno definisce queste intelligenze artificiali come dei pappagalli stocastici proprio perché generano testo senza apparentemente capirne il significato profondo. Forse è una definizione riduttiva, ma in ogni caso mi inquieta l’idea che qualcuno possa prendere una decisione sulla base di una sequenza di parole selezionate in base alla probabilità.

ChatGPT, ora basta giocare: ecco utilizzi e rischi (seri)

Il valore dei testi

Come già osservato la capacità generativa di queste AI contribuire ad aumentare l’inflazione testuale, anche in settori, come ad esempio quello della ricerca, dove la produzione documentale determina intere carriere. Quanto dovremo aspettare per vedere un revisore di un articolo scientifico chiedere a ChatGPT un parere o un riassunto?

Resta da capire quindi come faremo a decidere se un testo meriti la nostra attenzione e la lettura, e come queste capacità contribuiranno a ridefinire il mondo della scrittura.

Le macchine che sussurrano ad altre macchine

Come sempre non resta che aspettare e osservare questa straordinaria epoca in cui il vento dell’innovazione ci costringe costantemente a rimettere in discussione ciò che pensavamo di conoscere. Mi chiedo se, come accade nel mondo della finanza, alla fine i testi saranno generati dalle macchine per le macchine nella maggior parte dei casi, come già avviene per i mercati finanziari. E un’abilità che ha definito l’umanità stessa comincerà a definire le macchine, e probabilmente si svaluterà per gli uomini, nella consapevolezza che con tutta probabilità un testo scritto sarà stato assistito da una qualche AI.

Resta infine da capire se questo brusio di macchine che parlano tra loro sapranno garantire una certa veridicità dei testi scritti, sappiamo bene che le attuali AI generano testi contenenti informazioni errate, ed è difficile immaginare che la AI che li leggerà sia in grado di individuare tali errori. Come potremo ristabilire delle procedure comunemente accettate per verificare le informazioni ricevute?

Ad oggi i primi lavori scientifici ritengono che sia impossibile dire in modo affidabile se un testo è stato generato o meno, sembra quindi difficile immaginare che si possano facilmente individuare errori in modo automatico.

Come sempre quindi non resta che aspettare, giocare e meravigliarsi di queste incredibili tecnologie, e tutti insieme troveremo la strada. Ma se qualcuno pensa che si tratti solo di una AI che genera testo suggerisco di vedere questo video del robot Ameca che racconta il giorno più felice della sua vita.

Valuta la qualità di questo articolo

La tua opinione è importante per noi!

EU Stories - La coesione innova l'Italia

Tutti
Iniziative
Analisi
Iniziative
Parte la campagna di comunicazione COINS
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia
Iniziative
Parte la campagna di comunicazione COINS
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia

Articoli correlati

Articolo 1 di 2