L’intelligenza artificiale sta aprendo un nuovo fronte di discussione intorno alla scrittura: non ci chiediamo più soltanto se un contenuto sia corretto, interessante o utile, ma sempre più spesso se sia stato prodotto da un essere umano o da una macchina. È un cambio di prospettiva che rischia di spostare l’attenzione dal valore di ciò che leggiamo al modo in cui è stato prodotto.
Indice degli argomenti
AI e scrittura: l’ossessione per identificare i contenuti
Nelle ultime settimane sono avvenuti tre fatti che mi hanno fatto storcere parecchio il naso. Il primo: LinkedIn ha introdotto un pulsante che permette di segnalare un contenuto come “AI slop”, ovvero un contenuto di scarsa qualità prodotto con l’intelligenza artificiale. Il secondo: Substack ha lanciato Pangram, un sistema che analizza un contenuto e restituisce una percentuale sulla probabilità che sia stato scritto con l’AI. Il terzo: Anthropic ha annunciato l’introduzione di watermark nei contenuti prodotti con i propri modelli, a partire da Claude.
Pur nelle loro differenze, queste iniziative vanno tutte nella stessa direzione, raccontando la crescente ossessione per l’identificazione dei contenuti prodotti con l’intelligenza artificiale. Una direzione che trovo non soltanto sbagliata, ma anche pericolosa.
Rischiamo infatti di iniziare a considerare l’utilizzo dell’AI come qualcosa da smascherare, invece che come uno degli elementi di un processo creativo e produttivo che dovremmo imparare a governare. Un tema, questo, al quale ho dedicato un recente contenuto sul mio canale YouTube.
Il problema non è l’eventuale utilizzo di un modello AI
Parto da una precisazione: io insegno a usare l’intelligenza artificiale e sono convinto che sia una delle tecnologie più trasformative che abbiamo avuto a disposizione negli ultimi anni. Proprio per questo continuo a pensare che l’AI vada utilizzata con consapevolezza, non certo per spegnere il cervello, delegare qualsiasi processo creativo e accettare passivamente il primo risultato prodotto da un modello.
L’AI dovrebbe essere un punto di partenza, non di arrivo, uno strumento con cui pensare, esplorare, verificare, sperimentare e produrre. Per questo non ho nulla contro il fatto che si discuta della qualità dei contenuti prodotti con l’intelligenza artificiale, anzi, sono convinto che sia necessario farlo.
Il problema nasce quando non ci si chiede più se un certo testo sia valido o meno, ma se sia stato prodotto con l’intelligenza artificiale oppure no. Sono due domande molto diverse e la seconda, presa da sola, ci dice pochissimo sulla prima.
L’AI rende visibile qualcosa che esiste da sempre
Recentemente ho letto una riflessione di Armando Bisogno, filosofo e docente universitario, che a mio parere centra un punto fondamentale: la questione è antropologica prima ancora che tecnologica. Perché abbiamo questo bisogno quasi ossessivo di scoprire se qualcuno ha utilizzato l’AI? In fondo, non abbiamo mai conosciuto davvero la filiera di produzione dei testi che leggiamo.
Da secoli esistono infatti ghost writer, editor, collaboratori, traduttori, redazioni e persone che preparano discorsi che poi qualcun altro pronuncia. Un politico può pronunciare un discorso che non ha materialmente scritto, un manager può firmare un articolo preparato da un collaboratore, un accademico può pubblicare un paper al quale hanno lavorato diverse persone.
Nonostante ciò, per molto tempo non abbiamo sentito il bisogno di certificare ogni passaggio della filiera. L’AI sta cambiando qualcosa, ma forse non nel modo che pensiamo: non ha inventato la scrittura delegata, bensì l’ha democratizzata. La delega non ci scandalizzava quando era invisibile e questa, secondo me, è una delle questioni più interessanti. La scrittura delegata per lungo tempo era infatti costosa e riservata a poche persone, mentre oggi chiunque può utilizzare un sistema di intelligenza artificiale per produrre, modificare o migliorare un testo. La scrittura delegata è dunque diventata una possibilità di massa e, forse, è proprio questo che ci mette a disagio. L’AI ha reso evidente qualcosa che preferivamo non vedere: la scrittura non è mai stata quel processo completamente individuale, puro e quasi sacro che oggi alcuni sembrano voler difendere, ma è sempre stata caratterizzata da mediazioni.
La scrittura a più mani prima dell’intelligenza artificiale
Gli amanuensi e i copisti del Medioevo hanno contribuito alla trasmissione dei testi per secoli, gli autori hanno lavorato con collaboratori ed editor, il concetto stesso di autore individuale, così come lo intendiamo oggi, è molto più recente di quanto immaginiamo. L’intelligenza artificiale non ha quindi inventato la scrittura a più mani, ha semplicemente reso molto più difficile ignorarla.
Il bollino “prodotto da un essere umano” non è sinonimo di qualità
C’è poi una seconda riflessione, in questo caso di Andrea Camerino, consulente di comunicazione e giornalista, che trovo altrettanto interessante. La domanda che si pone è semplice: perché il valore di un testo dovrebbe dipendere dal modo con cui è stato prodotto e non da ciò che riesce a generare nella testa di chi lo legge? È una domanda che trovo difficile da contestare: quando leggo qualcosa voglio che mi faccia pensare, mi insegni qualcosa, mi emozioni, mi faccia arrabbiare, mi convinca o magari mi faccia cambiare idea. Non mi interessa sapere quanta “fatica biologica” è stata necessaria per produrre quelle righe.
Esistono testi meravigliosi scritti da esseri umani, ma ne esiste anche una quantità enorme di terribili. Lo stesso vale per libri, film, canzoni e fotografie.
Il fatto che un contenuto sia stato prodotto da un essere umano non è una garanzia di qualità e nemmeno una garanzia di autenticità.
Origine e valore
Il vero cortocircuito del dibattito attuale è dunque la confusione tra l’origine materiale di un testo e l’esperienza che quel testo produce. Un testo può essere scritto interamente da un essere umano e non avere nulla da dire, mentre può essere prodotto con il supporto dell’intelligenza artificiale e riuscire invece a mostrare qualcosa che il lettore non vedeva.
Quale dei due ha più valore? Per me la risposta è semplice: quello che genera qualcosa in chi legge.
Se un testo mi dà chiarezza, mi emoziona, mi fa arrabbiare, mi fa sorridere, mi mostra una prospettiva nuova o mi cambia un’opinione, ha fatto esattamente ciò per cui la scrittura esiste. Poco importa se, dall’altra parte, c’era una persona davanti a una tastiera che scriveva, cancellava e riscriveva oppure una persona che ha lavorato insieme a un modello di AI. Il punto non è negare il processo, ma non confonderlo con il risultato.
Certifichiamo tutto?
Proviamo a portare il ragionamento alle estreme conseguenze: se oggi abbiamo bisogno di un pulsante che ci dica se un testo è stato scritto con l’intelligenza artificiale, allora dovremmo averne anche uno che ci dica se il testo è stato scritto davvero dall’autore che lo firma oppure da un ghost writer. E poi uno che ci dica quanto ha scritto l’editor di un certo libro, quante persone hanno contribuito alla redazione di un paper scientifico, quante frasi sono state riscritte da un collaboratore.
La provocazione serve a evidenziare un punto molto serio: la produzione culturale è da sempre caratterizzata da mediazioni, non stiamo scoprendo qualcosa di nuovo. Stiamo diventando ossessionati dalla mediazione soltanto quando a farla è una tecnologia che abbiamo appena imparato a conoscere.
La vera questione è la responsabilità
C’è un elemento che secondo me dovrebbe diventare ancora più importante nell’era dell’AI: la responsabilità. Se firmo un contenuto, sono responsabile di quello che contiene, delle eventuali informazioni sbagliate, delle fonti che non ho verificato, delle conseguenze delle mie parole.
Questo vale indipendentemente dal fatto che abbia scritto tutto da solo, abbia utilizzato un collaboratore, un editor o un sistema di intelligenza artificiale.
L’arrivo dell’AI dovrebbe dunque spingerci esattamente nella direzione opposta rispetto alla caccia alle streghe: maggiore attenzione alla qualità, alle fonti, alla correttezza dei contenuti e meno ossessione per la provenienza materiale di ogni singola frase.
Diffidare di un contenuto e verificarne le fonti è sacrosanto, chiedersi chi lo ha scritto può essere utile, ma pensare che sapere se è stato utilizzato un modello di AI ci permetta automaticamente di stabilirne il valore è un’altra cosa.
L’AI ci sta costringe a ripensare l’autorialità
Le grandi rivoluzioni tecnologiche ci costringono spesso a porci domande che riguardano molto più noi stessi rispetto alla tecnologia stessa. L’intelligenza artificiale ci sta mostrando quanto fosse fragile il nostro concetto di autorialità, costringendoci a ripensare cosa significa creare, scrivere, essere originali e persino cosa significa essere umani. Possiamo reagire cercando di costruire strumenti sempre più sofisticati per smascherare chi utilizza l’AI oppure possiamo approfittare di questa trasformazione per porci una domanda molto più interessante: che cosa rende davvero valido un contenuto?
Per me la risposta continua a essere la stessa: un testo deve riuscire a produrre qualcosa nella testa di chi lo legge, ovvero chiarezza, un’emozione, una domanda, un dubbio, una nuova prospettiva, un cambiamento di opinione.
Se un contenuto riesce a farlo, perché dovrei preoccuparmi prima di tutto di sapere chi o cosa ha premuto i tasti? Chiedere una certificazione prima di concederci il diritto di apprezzare qualcosa significa aver completamente rovesciato le nostre priorità e la storia delle cacce alle streghe ci insegna una cosa abbastanza semplice: quando le streghe non le trovi, prima o poi inizi a inventarle.
Partecipa alla community