Perché insegnare alle macchine a parlare e scrivere come noi? I pericoli | Agenda Digitale

la riflessione

Perché insegnare alle macchine a parlare e scrivere come noi? I pericoli

Bastone, bisaccia e scarpa vecchia: dovremmo sempre pensare ai computer come a uno strumento il cui senso affonda nella tradizione, in quella consapevolezza del proprio essere che ha accompagnato noi umani nel corso della storia. Ecco perché

29 Gen 2021
Francesco Varanini

Consulente, docente, scrittore

Abstract circuit side male portrait on blue background with copyspace and binary code. Innovation concept. 3D Rendering

Un tema fra i più ricorrenti, ormai non solo fra gli addetti ai lavori riguarda il trasferimento alle macchine di una tipica capacità umana: l’arte di scrivere in modo efficace, la tecnica tesa a costruire discorsi persuasivi. Ma a pensarci bene, mi chiedo, perché l’uomo vuole insegnare la retorica ad una macchina? Un’arte che noi umani conosciamo ed usiamo dagli albori della civiltà. Sono appassionato di nuove tecnologie e credo che strumenti digitali possano aiutarci a sviluppare più pienamente nostre capacità, anche la capacità retorica. Ma mi domando da dove viene questa ansia di trasferire alle macchine le nostre capacità.

Nel mio libro Le Cinque Leggi Bronzee dell’Era Digitale. E perché conviene trasgredirle (Guerini e Associati 2020) chiamo questa ansia “preferenza per la macchina’. Perché preferiamo la macchina a noi stessi?

Perché vogliamo una tecnologia che parla e scrive come noi?

Tecnologie già disponibili permettono di tradurre voce umana e testi da una lingua all’altra. Pensate che meravigliosi effetti avrebbe sulla fratellanza umana, sulla democrazia a scala planetaria, la possibilità di pensare ed esprimersi nella propria lingua materna, ed essere allo stesso tempo in grado di conversare con ogni cittadino del pianeta.

Digital event, 22 giugno
Forum PA > La trasformazione digitale del Paese
Digital Transformation
Networking

Invece, in quale campo di ricerca investono le grandi case digitali globali, Microsoft e Google e via dicendo. Investono, appunto, nel settore del Natural Language Processing, ovvero nel trasferire alla macchina l’umana capacità di esprimersi attraverso la lingua.

Un esempio per tutti: si fa un gran parlare, in questi mesi, del GPT-3, Generative Pre Trained Transformer, Trasformatore Generativo Pre addestrato di terza generazione. La novità è spiegata così agli ignari cittadini: l’Intelligenza Artificiale che capisce, usa il linguaggio e scrive come gli umani. Direi meglio: il progetto consiste nell’ingannare noi umani, rendendoci impossibile distinguere se stiamo parlando con un altro essere umano o con una macchina.

Perché, in quanto esseri umani, ci impegniamo nell’insegnare a macchine a parlare agli esseri umani rendendo agli esseri umani impossibile distinguere se a parlare è una macchina o un essere umano?

Per questa via noi esseri umani finiamo per “arrenderci ad un codice straniero”.

Ad ogni cittadino è offerto un insegnamento elementare, che è la base sulla quale si erige la democrazia: l’alfabetizzazione. Saper scrivere e saper leggere, è il modo per partecipare alla scrittura delle leggi che reggono la convivenza civile e lo Stato democratico. È il modo per contribuire a scrivere e conoscere le leggi che siamo chiamati a rispettare. È il modo per partecipare alla vita sociale e politica.

Ma oggi tutto ciò che conta è scritto in un codice digitale, in una ‘lingua’ progettata per parlare alle macchine, lingua che, tra gli umani, solo i tecnici specialisti conoscono. Così al cittadino è negata anche la possibilità di controllare ciò che è scritto nel codice. Ed ora si arriva al passaggio finale di questo processo. La lingua pensata per rivolgersi a macchine è infine imposta come nuova, più evoluta lingua, agli stessi esseri umani. Risulta impossibile per noi esseri umani, distinguere se a parlarci è un altro essere umano, o una macchina.

I casi emblematici di Turing e Pitts

Perché ci muoviamo in questa direzione, dunque. O meglio: perché un particolare gruppo di esseri umani, tecnici specialisti, computer scientist, si muovono in questa direzione. Racconto nel mio libro la triste vicenda di Alan Turing, il capostipite, il celebrato fondatore della Computer Science. Credo si possa, anzi si debba, leggere i suoi articoli scientifici alla luce della storia personale di Alan. Deluso, già nella primissima infanzia, dagli umani, trascurato e non compreso dai suoi stessi genitori, deluso da sé stesso, sceglie di sperare in macchine che sappiano essere migliori degli esseri umani, di lui stesso. La sua grandezza consiste nel non essersi limitato a sognare, e nell’aver descritto con chiarezza il funzionamento di questa macchina.

Un altro esempio: Walter Pitts, uno dei due autori dell’articolo che, nel 1943, fonda la ricerca di reti neurali artificiali. Racconterò la sua storia in un prossimo libro. Walter è un matematico autodidatta. A quindici anni scrive a Bertrand Russell contestandogli errori che Russel riconosce. Ha vent’anni quando nel dicembre 1943 esce sul Bulletin of Mathematical Biophysics l’articolo “A logical calculus of the ideas immanent in nervous activity”, scritto insieme a Warren McCulloch, medico, psichiatra, cultore di quell’ambito interdisciplinare che solo negli anni successivi troverà il proprio nome: cibernetica. McCulloch ospita a casa propria il giovane Walter, geniale ragazzo solo e sbandato. Ora, c’è un fatto che trovo sorprendente: sullo stesso numero di quella rivista appare un altro articolo a firma di Walter Pitts. Ma mentre l’articolo sulle reti neurali, universalmente celebrato, entra in migliaia di bibliografie, l’altro articolo è totalmente ignorato. Eppure, il racconto di tutto ciò che ruota attorno al secondo articolo apre scenari inattesi e affascinanti, ancora oggi ricchi di promesse.

Ecco, vorrei che i miei amici computer scientist, tecnici informatici, esperti di trasformazione digitale, trovassero il tempo per aprire queste finestre, scoprire percorsi. Essere curiosi. Andare a guardare quali altri articoli erano usciti sullo stesso numero della rivista, assieme all’articolo stranoto. Tenere sempre in connessione la complessiva vita personale ed il lavoro tecnico professionale. Cogliere la persona, la storia di vita, che sta dietro la firma di un articolo. Walter Pitts, matematico finissimo, precocemente scomparso, in vita sua non fece altro che questo: trascrivere in forma matematica il pensiero di amici che stimava, cui voleva bene.

Se il tecnico si allontana dall’essere cittadino

Un altro ricercatore che stimo molto, anch’egli attivo nel campo del Natural Language Processing, fa sua la mia domanda: “perché, in quanto esseri umani, ci impegniamo nell’insegnare a macchine a parlare agli esseri umani rendendo agli esseri umani impossibile distinguere se a parlare è una macchina o un essere umano?” L’amico mi propone di riformulare la domanda così: “perché gli umani automatizzano attività che potrebbe svolgere un umano, rendendo molto spesso il prodotto di quell’attività impossibile da distinguere rispetto allo stesso prodotto creato da un umano?”.

Accetto la riformulazione. E passo a discutere la possibile risposta che il mio amico propone: “Probabilmente perché questa è la vera natura dello sviluppo tecnologico e dell’essere umano”.

Mi sembra una semplificazione forse troppo comoda.

Mi trovo abbastanza d’accordo con la prima affermazione: “Questa è la vera natura della tecnica”. Effettivamente si può sostenere che la storia della tecnica risiede nel costante trasferimento di capacità dall’uomo allo strumento che ha in mano. E poi nel trasformarsi dello strumento in macchina sempre più autonoma rispetto all’essere umano.

Non mi trovo invece d’accordo con la seconda affermazione: “Questa è la vera natura dell’essere umano”. Spero di essere riuscito a mostrare nelle Cinque Leggi come la “natura dell’essere umano” consista nel costruire sempre nuove macchine; ma non nell’affidarsi a macchine e nel lasciarsi sostituire da esse. Di volta in volta l’essere umano trasferisce proprie capacità ad una macchina. Ma ogni volta, trasferita una capacità alla macchina, cerca, e trova in sé, la forza di scoprire nuovi spazi di libertà e di azione. La situazione digitale, così, ci spinge ad essere più coraggiosi e più saggi.

Ma soprattutto, ciò che nell’enunciato dell’amico non mi trova d’accordo è il parlare, in questo contesto, di “essere umano”. Avrebbe dovuto dire: “Questa è la natura del tecnico”.

La cosiddetta “trasformazione digitale”, infatti, porta a compimento un processo iniziato con la rivoluzione industriale. Si può sostenere che fino agli albori della rivoluzione industriale la distanza tra “essere umano” e “tecnico” era abbastanza breve. Adam Smith, nella Ricchezza delle Nazioni, descrive il mutamento che era sotto gli occhi, verso la fine del 1700. Fino ad allora erano gli operai stessi a costruire le macchine. Costruire macchine equivaleva a cercare il modo per alleviare la propria fatica, per allontanare da sé compiti gravosi e noiosi. Nell’Era Digitale, osserviamo invece la presenza di un tecnico che progetta e costruisce strumenti non per sé, ma per altri: per lavoratori e cittadini ridotti così al ruolo di utenti. L’espressione User Experience Designer mi pare ricca di un minaccioso significato.

Il tecnico sta in laboratorio, e lì progetta e costruisce strumenti. Attorno a questa attività tecnica, separata dalla vita sociale, si è purtroppo ormai edificata una comoda etica. È facile sentir dire: a noi compete ricercare e costruire strumenti. Dell’uso sociale degli strumenti e delle conseguenze dell’uso degli strumenti si occuperà la politica.

È così che il tecnico si allontana dal proprio essere cittadino. Ed è così che ora il tecnico, per restare nell’esempio, anziché costruire strumenti tramite i quali gli essere umani possano parlare più liberamente tra loro, si dedica invece a costruire e a usare strumenti per ingannare e controllare gli esseri umani.

Domande aperte

Confuto questa posizione, ricordando che  la politica è responsabilità di ogni cittadino, di ogni essere umano, e che quindi il ricercatore, allontanando da sé la responsabilità di fare i conti con le conseguenze della propria ricerca, viene appunto meno alle proprie responsabilità di cittadino, e finisce insomma in qualche modo per prendere le distanze dal suo stesso essere umano.

Ho molto rispetto per le scelte professionali di ognuno. So bene che la carriera del ricercatore è condizionata da diversi vincoli. La ricerca esige finanziamenti, le strategie perseguite dai finanziatori indirizzano quindi la ricerca. La presenza dominante di grandi potentati extraterriotoriali – come sono ad esempio Google, Microsoft, ed i loro omologhi cinesi, come Tencent – superiori come sono alle stesse leggi stabilite dagli Stati nazionali e dagli enti internazionali, condiziona gravemente la scena. Le comunità professionali alle quali apparteniamo impongono, in maniera esplicita o tacita, limiti alle scelte personali.

È vero quindi che i linguaggi di cui il GPT-3 è caso esemplare, ormai esistono, e sono destinati a restare tra noi. Eppure si può dire che questi linguaggi esistono perché esistono ricercatori che si sono dedicati a svilupparli. Non intendo gettare con questo la croce addosso ai miei amici ricercatori. So del resto che sono numerosi i tecnici che mettono in guardia i cittadini contro i rischi impliciti negli strumenti potentissimi che loro conoscono ed usano. Ma forse questo non basta.

Credo si possa, insieme, combattere il senso di impotenza di fronte ad una innovazione tecnologica che sembra correre inarrestabile. Siccome l’innovazione appare inarrestabile, si sceglie di abbracciarla. Sembra che l’unica scelta possibile consista nello sforzarsi di vedere gli aspetti positivi

Credo al contrario che convenga continuare a porci domande. Anche se non abbiamo immediate risposte. Perché preferiamo la macchina a noi stessi? Perché ci arrendiamo ad un codice straniero? Perché costruiamo macchine che ci ingannano, rendendoci impossibile distinguere se a parlarci è una macchina o un essere umano? Perché non non ci dedichiamo invece a costruire macchine che accompagnano ogni essere umano nella libera conversazione con ogni altro essere umano?

Mettiamo le politiche digitali al centro dell’attenzione

Queste tecnologie sono arrivate per restare, mi dice un altro amico tecnologo. Sì, è così, dobbiamo accettare i dati di realtà. Dobbiamo fare i conti con le tecnologie e gli strumenti e le macchine che esistono. Ma non per questo dobbiamo rinunciare a criticarle. Nemmeno dobbiamo necessariamente usarle.

Certo, possiamo magari controbattere gli effetti nefasti di una tecnologia con la stessa tecnologia. Possiamo dire: altri la usano per scopi noi condivisibili noi la utilizziamo per scopi buoni.

Per esempio, potremo usare il GPT-3 per diffondere messaggi positivi, orientati alla coesione sociale ed al rispetto reciproco. Ma così si finisce per legittimare la tecnologia. La si accetta come ineluttabile.

Il tecnico consapevole, il professionista riflessivo, che personalmente si interrogano sul loro agire, appartengono alla stessa comunità professionale dei loro colleghi meno scrupolosi e responsabili. Usano gli stessi strumenti e gli stessi codici digitali. Citano nei loro articoli le stesse fonti e parlano negli stessi convegni. I motivi poco commendevoli per i quali la tal tecnologia è stata implementata finiscono per essere messi tra parentesi.

Avremo in questo modo contribuito a diffondere l’uso della macchina pericolosa. Avremo accettato -per tornare all’esempio iniziale- che noi essere umani, per parlare tra noi, si debba ricorrere alla mediazione di una macchina della quale non conosciamo e non controlliamo il funzionamento.

C’è una scelta più difficile, ma sempre possibile. Possiamo anche rinunciare per principio ad ad usare una certa tecnologia. A costo di di perdere qualche punto in una carriera che perversamente vincola all’accettazione di un mainstream, si può scegliere l’ambito della propria ricerca. Si può combattere la passione per la tecnologia che ci spinge a sperimentare l’uso di ogni nuovo strumento.

Non voglio con questo giudicare nessuno. Voglio solo ricordare una possibilità sempre aperta. Che va forse contro il moderno modo di intendere il progresso; ma si fonda su un’antica saggezza.

Prometeo e Epimeteo

Possiamo infatti ricordare che la mitologia greca ci presenta la figura di Prometeo, non a caso preso a simbolico campione del sacro fuoco dell’innovazione, ma ci presenta anche suo fratello, Epimeteo. Se Prometeo, come dice lo stesso senso del del suo nome, ‘pensa prima’, ‘sa prevedere’, Epimeteo ‘pensa dopo’, ‘si rende conto dopo’. Non c’è da vergognarsi se a cose fatto, avendo sperimentato, ci si rende conto di rischi ed implicazioni e si rinuncia ad uno strumento, ad una strada. Possiamo dunque scegliere di sottostare alla legge di un progresso che ci spinge a guardare in avanti, solo in avanti. Ma possiamo anche intendere il nostro approccio al digitale come scelta responsabile che ci porta a non prendere per buono tutto ciò che la tecnologia produce. Per questo accompagno il titolo Le Cinque Leggi Bronzee dell’Era Digitale con il sottotitolo: E perché ci conviene trasgredirle.

Siamo di fronte al trionfo della tecnica digitale. È forse il momento di porre al centro dell’attenzione la politica digitale.

Ma per favore, non riduciamo la politica digitale al dire che serve la diffusione della banda larga, che serve connettività alla portata di ogni cittadino. Non limitiamoci, per favore, a credere che basti dotare ogni cittadino di una European Computer Driving Licence; non limitiamoci a considerare che la politica digitale consista nel miglioramento di un indice, come ad esempio il Digital Economy and Society Index (DESI).

Una nuova cittadinanza attiva

Si tratta, invece, di cercare, in presenza di strumenti e piattaforme digitali – macchine di cui non possiamo ignorare l’orientamento al condizionamento sociale ed alla sorveglianza-  una nuova consapevolezza, una nuova cittadinanza attiva.

Credo che il primo passo in questa direzione consista nella riduzione della distanza tra tecnici e cittadini. Si corre altrimenti un grave rischio. La tecnologia digitale si fonda su codici che il cittadino non può né leggere né controllare.

La tecnologia digitale, così, appare il collante ideale di una tecnocrazia, una élite sempre più lontana dai cittadini, ridotti a ignari sudditi. Vi invito a non considerare apocalittica, troppo pessimistica o fantascientifica, questa lettura della politica digitale. In realtà, è questo che sta accadendo. Se poi vogliamo far mente locale al pieno sviluppo di questo dispositivo di governo digitale, possiamo ricordare che il presente ci mostra già come questa ‘macchina per governare’ può funzionare, basta guardare a ciò che accade già oggi in Cina.

Di quale macchina stiamo parlando

Eppure temo che, per il momento, la distanza tra tecnici e cittadini non si stia riducendo.

Recentemente, ho partecipato a un incontro con altri ‘esperti’, su un tema che finisce per essere abusato: i pro e i contro della cosiddetta Intelligenza Artificiale, la possibilità di trasferire alla macchina una qualche coscienza morale.

Esponevo argomenti vicini a quelli avvicinati qui sopra. Finendo appunto per porre l’accento sul primo passo che mi pare necessario: il consapevole ritorno dei tecnici nel novero dei cittadini. Verso la fine dell’incontro uno dei partecipanti, con una sincerità che ammiro, si è dichiarato in disaccordo. Diceva più o meno: questo momento voglio vivermelo, voglio godermelo, non voglio perderlo. È tanti anni che lo aspettavamo. Ora con la potenza di calcolo di cui disponiamo sviluppi prima problematici sono a portata di mano.

Rispetto questo pensiero da tecnico. Ma è proprio per queste possibilità oggi aperte che invito i miei amici tecnici a pensare da cittadini.

Tu da tecnico vuoi andare avanti e vedere cosa riusciamo a far fare alla macchina. Ma come padre di famiglia cosa pensi?

Perciò nella conclusione delle Cinque Leggi propongo una immagine. Propongo di intendere il computer, anche quando da professionisti progettiamo e scriviamo codice, come uno strumento il cui senso affonda nella tradizione, in quella consapevolezza del proprio essere che ha accompagnato noi umani nel corso della storia.

  • Il computer è un bastone. Ci conviene immaginarlo come il bastone con il quale il viandante si sorregge. Ci conviene considerarlo lo strumento al quale appoggiarsi. Lo strumento al quale ricorre per difendersi, e per aumentare il raggio e la potenza della propria azione.
  • Il computer è una bisaccia. La bisaccia è leggera e può essere portata sempre con sé, anche nelle situazioni più estreme. Ma sia bisaccia, o zaino o valigia o baule, ci conviene immaginare il computer come involucro che permette di portare con sé ciò che è necessario, utile e piacevole nel viaggio che è la vita. Ricordi irrinunciabili e risorse e strumenti che migliorano ed approfondiscono, che rendono più piena l’esistenza.
  • Il computer è una scarpa vecchia. Ci conviene considerarlo strumento che si adatta al personale modo di esistere, di pensare e di agire. Strumento plastico, che -quali siano i disegni del progettista e i vincoli imposti dal produttore e del fornitore di servizi- si allontana dal disegno e dai vincoli in forza della personale fiducia in sé stesso dell’essere umano che lo possiede e lo adopera.

@RIPRODUZIONE RISERVATA

Articolo 1 di 2