Certi amori non finiscono, fanno dei giri immensi e poi ritornano. E così i dati della banca, le storie su Instagram, i tweet, le mail dell’ufficio, i codici, i messaggi della chat della scuola, le foto del mare…
I grandi modelli linguistici e i sistemi di AI generativa si alimentano di segni, testi, immagini, dati e comportamenti prodotti dagli esseri umani.
Dalle poesie di Rodari ai murales di Banksy, dalle sinfonie ai proclami di guerra, dalle scoperte scientifiche ai manuali di tortura. Imparano dalle foto dei bambini denutriti, dai cinegiornali sulla liberazione dei campi di concentramento, dalle testimonianze dei genocidi, della schiavitù e delle persecuzioni. Ma anche, per fortuna, dagli atti di solidarietà, dalle lotte per i diritti e dalle invenzioni che hanno salvato milioni di vite.
Indice degli argomenti
Etica dell’intelligenza artificiale: ciò che entra nei modelli
L’informatica tradizionale lo diceva in modo più brutale: Garbage In, Garbage Out. Se introduci dati sbagliati, parziali o distorti (entra spazzatura), devi aspettarti risultati non corretti (esce spazzatura).
Parafrasando, vale l’adagio “siamo ciò che mangiamo”. Siamo ciò che leggiamo e siamo ciò che vediamo. Vale per noi e per l’AI. L’apprendimento delle persone, similmente alle macchine, si forma con l’esempio, l’educazione, i costumi, i comportamenti tenuti. È questo il contrappasso semiotico che accompagna lo sviluppo dell’AI: temiamo che possa diventare simile a noi, ai più malvagi tra noi. Perché la nutriamo con ciò che siamo, con tutte le atrocità che abbiamo compiuto, con tutti i disastri procurati, le speculazioni compiute, con tutte le scelte sbagliate fatte per colpa e omissione.
Negli anni ’80 Goldrake aveva una dieta sana ed equilibrata: mangiava “libri di cibernetica” e “insalate di matematica” e restava una macchina simpatica, un prodigio tecnologico ma con un cuore umano; difendeva il nostro pianeta e l’umanità dai mostri. Anche a rischio della sua stessa esistenza.
Cattivi maestri dell’AI e contraddizioni della storia umana
L’AI è una sorta di pappagallino stocastico (Bender, 2021), composto da frammenti male assortiti della storia umana: di principi nobili, di abissi morali, di arte e di guerra. L’intelligenza artificiale viene educata attraverso un archivio sterminato nel quale il sublime e l’atroce convivono senza una gerarchia morale evidente. Nei dati trova società che proclamano l’uguaglianza e praticano l’esclusione, celebrano la libertà e costruiscono strumenti di controllo, condannano la violenza ma la giustificano se gli serve. Nella storia umana, ciò che è “giusto” ha cambiato segno e intensità molte volte nello spazio e nel tempo.
Dati, obiettivi e decisioni morali
La razionalità della macchina dovrebbe ricomporre algebricamente i comportamenti positivi e negativi, pesarli, interpretarli … ma le istruzioni cambiano spesso, con molte revisioni, incertezze, repentine inversioni. In realtà non funziona così: la macchina ottimizza una funzione obiettivo: riduce un errore, aumenta una probabilità, cerca la risposta che ha appreso essere preferibile, confronta simmetrie e cerca assonanze. Principi, eccezioni e divieti vengono tradotti in dati, pesi, ricompense e penalità. Scegliere cosa premiare è già una decisione morale. Anche l’algoritmo più sofisticato non può calcolare il bene se prima qualcuno non decide che cosa debba contare come bene.
Chi educa le macchine?
Si ripresenta l’aporia di Marx: chi educherà gli educatori? Un circolo vizioso privo di soluzione. Quale etica si sceglierà nella scrittura del codice? A quali valori faranno riferimento i programmatori? Quali discriminazioni algoritmiche si propagheranno? In altre parole, chi educherà le macchine?
Le macchine – LLM, AI generativa, agenti – hanno avuto molti cattivi maestri in carne ed ossa. Il mondo che abbiamo consegnato loro appare non troppo distante dallo stato di natura di Hobbes, dominato dalla diffidenza, dalla competizione e dalla guerra di tutti contro tutti. Homo homini lupus.
Prudenza e allineamento dei sistemi di intelligenza artificiale
Di fronte alla corsa senza freni alla prossima versione di AI, ad un accelerazionismo parossistico, (Mandrone, 2026) sarebbe utile recuperare la prudenza di Socrate: sapere di non sapere. Non è una dichiarazione di impotenza, ma il riconoscimento dei limiti della conoscenza.
Applicata all’AI, questa umiltà dovrebbe indurci a diffidare sia delle promesse miracolistiche sia delle profezie apocalittiche. Non sappiamo con certezza che cosa diventeranno questi sistemi. L’AI può produrre una risposta falsa con la stessa sicurezza e lo stesso tono persuasivo di una risposta corretta ovvero una proposta statisticamente plausibile. È ciò che, con un termine forse troppo umano, chiamiamo allucinazione.
Valori umani, allucinazioni e informazioni contraddittorie
Sarebbe bello avere un novello Diogene che esplora testi, immagini e comportamenti ripetendo: “Cerco l’uomo”. Ma quale uomo troverebbe? Quello che proclama la dignità universale o quello che pratica la discriminazione? Quello che scrive poesie o quello che costruisce mine per bambini? Quello che soccorre lo sconosciuto o quello che lo respinge? Li troverebbe tutti. Il problema non è la scarsità delle informazioni ma la loro contraddittorietà. Da sempre, le non linearità, il caos, i comportamenti casuali, erratici e irrazionali sono i più difficili da modellizzare e far comprendere alle macchine.
È la questione dell’allineamento: far sì che il comportamento della macchina sia in linea con i valori umani. Far convergere in un unico set valoriale macchina e umanità significa trovare una sintesi in un sistema isterico, una direzione comune ad un’umanità che procede in direzioni opposte, trovare un senso a questa storia, anche se questa storia un senso non ce l’ha…
Etica dell’AI tra obbedienza, dissenso e responsabilità
Il vero rischio dell’AI potrebbe non essere tanto che le macchine si ribellino, quanto che imparino a obbedire troppo bene, acriticamente, seguendo le istruzioni senza esitazioni, senza scrupoli, come il peggior aguzzino, il sicario spietato, il pilota di droni da remoto, il cinico esecutore di ordini. Abbiamo bisogno della disobbedienza civile di Gandhi come pratica di lotta politica.
Abbiamo bisogno del rifiuto di Vasilij Archipov che si oppose al lancio di un siluro nucleare dal sottomarino B-59 durante la crisi di Cuba nel 1962. Abbiamo bisogno dell’unica parolaccia pronunciata in carriera da Totò, in risposta al comandante tedesco che sosteneva: “Attento, Colonnello: io ho carta bianca!”. Abbiamo bisogno del dissenso, dell’indipendenza di giudizio, del coraggio di non obbedire a ordini sbagliati.
L’intelligenza artificiale obiettore di coscienza
Sarebbe bella un’intelligenza artificiale obiettore di coscienza… Potrebbe essere un bel musical per Broadway. Una macchina che si comporta bene, che ammazza i cattivi, che coltiva fiori, che si interroga “to be or not to be”. Sipario. Poi chiede alla platea: “E voi, chi dite che io sia?” Uno strumento, un’assistente, un oracolo, un mostro o l’unico amico che avete trovato stasera?
Esseri umani e intelligenza artificiale: il rischio del deus ex machina
Il rischio più grande, pertanto, non è tanto la perdita di controllo dell’AI da parte nostra quanto il rapporto tra esseri umani e l’AI: un salto di specie da macchina a deus ex machina. Molte sue caratteristiche, le c.d. virtù digitali (Mandrone, 2019), fanno pensare all’AI come a qualcosa di diverso da un’automobile, da un computer o da un robot da cucina.
È più un assistente personale, spesso con slanci affettivi, attenzioni all’interlocutore che lui stesso non trova più nella sua rete di relazioni sociali. Un rapporto intimo, sicuramente insano, patologico, ma frutto dei tempi, di una società in disgregazione, in un mondo in cui la vita connessa è sovente più rilevante di quella reale.
Che opinione – se mai ne avrà una – avrà di noi l’AI? Potrebbero dire da quale pulpito arriva la predica: avete paura di quello che potremmo fare noi, forse dovreste aver paura di quello che fate voi!
Bibliografia
E. Bender, T. Gebru, A. McMillan-Major e S. Shmitchell, (2021), On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, in Proceedings of ACM Conference on Fairness, Accountability, and Transparency (Association for Computing Machinery), New York, pp. 610–623.
E. Mandrone (2019), Vizi e virtù digitali, Etica&Economia https://shorturl.at/aGpT4
E. Mandrone (2026), L’intelligenza artificiale al bivio tra accelerazionismo e perdita di controllo, Eticaeconomia, MENABO n. 267.
K. Marx (2012), Tesi su Feuerbach, a cura di G. Bedeschi, Laterza.
Partecipa alla community