L’avvento dell’intelligenza artificiale generale (Artificial General Intelligence, AGI) capace dei più vari compiti per mezzo di grandi e profonde reti neurali, cioè di dispositivi di apprendimento automatico così potenti, sofisticati e oscuri da far venire a qualcuno il dubbio che possano anche divenire coscienti, è un megatrend della comunicazione pubblica.
Analisti di diverse estrazioni, tecnologi, economisti, sociologi, linguisti, filosofi, producono quotidianamente una messe di articoli, post, libri, interviste e podcast sull’argomento. Negare che una AGI possa divenire cosciente (qualsiasi cosa significhi), in particolare, è diventato un frequentatissimo luogo comune, e anche l’elenco dei limiti e dei potenziali fallimenti dell’AGI è ormai quasi un mantra della pubblicistica tecnologica.
Tutto vero: ma così stiamo perdendo di vista il vero problema.
Un’intelligenza artificiale senziente? Ma è d’altro che dobbiamo preoccuparci
L’oziosa discussione sull’incoscienza delle macchine
Una rete neurale non ha maggior senso di sé di un frullatore, e fuori dalla comfort zone del suo task sta più a disagio di Peter Sellers in Hollywood party. Ma c’è il sospetto che tutta questa emotività mediatica sul tema dell’incoscienza delle macchine stia alimentando una discussione fondamentalmente oziosa. Gli automi, inconsapevoli e specializzati come sono, stanno comunque occupando territori sempre più vasti della nostra vita economica, sociale e personale. Esorcizzare questa pervasività puntando il dito sui loro limiti probabilmente non porta a nulla, e anzi può far perdere di vista alcune cruciali implicazioni delle trasformazioni in atto.
La domanda interessante non è se gli automi potranno acquisire una coscienza: a questa ha risposto John Searle già nel secolo scorso, e la risposta è un “no”. Né il superamento (di fatto) del Test di Turing da parte dei recenti transformer linguistici può cambiare quel verdetto: anzi, è proprio l’euristica del famoso test ad essere messa in crisi dagli abilissimi ma insipienti automi neurali. La domanda interessante, invece, è quella esattamente speculare: quale sarà l’impatto dell’automazione intelligente sulla coscienza umana?
L’intelligenza artificiale potrà cambiare la nostra coscienza?
Se la AGI non avrà mai coscienza, potrà tuttavia cambiare la nostra? Si tratta di una domanda molto difficile, ma non perché abbia a che fare con la distopia del “cervello postumano” che attrae perfino l’attenzione di Slavoj Žižek. Possiamo ben sperare, infatti, che un cervello drogato da cose come il Neuralink di Elon Musk non veda mai la luce. No: il tema è più sottile, concreto e attuale.
Un oggetto può imprimersi feticisticamente in una coscienza umana. Chi vende merci lo sa bene: c’è chi si identifica nella propria automobile o nelle proprie scarpe. Ma oggi abbiamo davanti qualcosa che neanche Marx poteva prevedere: sono già in circolazione automi, cioè oggetti, che entrano nella coscienza dalla porta principale, quella del linguaggio. Questi oggetti sono molto più che semplici merci: stanno diventando infatti parte integrante, anzi portante, del sistema della produzione, del commercio e dei servizi. L’automazione è una leva potentissima di profitto, e la capacità di generare e interpretare linguaggio è una leva potentissima dell’automazione. L’automa linguistico si presenta dunque alla coscienza umana con la forza illocutoria del capitale e la voce tonante delle grandi aziende-nazione tecnologiche che stanno ridefinendo i confini geopolitici globali.
Cosa accadrà quando l’IA saprà “creare” emozioni? La lezione del film “Her”
Innamorarsi di un algoritmo
Sembra difficile affermare che il modo in cui percepiamo noi stessi in relazione al mondo non subirà alcuna trasformazione in un ambiente in cui la nostra fondamentale capacità sociale, quella del linguaggio, viene esercitata sempre più anche da pseudo-soggetti automatici del tutto estranei al nostro modo di intendere le parole. In Cina accade già che migliaia di uomini intrattengano – per dire così – “relazioni romantiche” con una chatbot. Quale impatto avrà sulle loro coscienze il fatto che questa pseudo-fidanzata dirà loro, verosimilmente, frasi stereotipate, profondamente ignare della loro specifica situazione emotiva ed esistenziale? Quale immagine di sé può formarsi colui o colei che si riflette nello specchio normalizzante, conformistico e opaco del silicio?
Alcune delle preoccupazioni espresse dall’Unione europea sull’Intelligenza artificiale (AI Act, 2021) riguardano proprio la capacità degli automi di ingannare i loro interlocutori umani fingendosi viventi. Ma la questione non si risolve di certo con qualche disclaimer: i giovanotti cinesi sanno benissimo di essere fidanzati con un algoritmo, ma a quanto pare liquidano la cosa con la battuta finale di A qualcuno piace caldo: “nessuno è perfetto”. L’attitudine proiettiva dell’umano può far strame di qualsiasi realtà. Abbiamo quindi da un lato la pressione del capitalismo automatizzante che trova nella generazione di linguaggio un grande business, dall’altra la disponibilità delle persone verso qualsiasi cosa alla quale possa essere attribuita qualche intenzione comunicativa. Non si tratta di credulità (gullability) come qualcuno ha detto, ma di umana disponibilità e di impellente soddisfazione di esigenze vitali. Insomma: la lama del profitto entra nel burro del bisogno.
Artificial Intelligence Act: l’UE regola l’AI ma dimentica di proteggere la mente
Cosa può fare l’Europa
Parlare con un automa può essere alienante e può alterare quel senso di realtà che ci viene trasmesso nell’interazione con i nostri simili. Al limite, può essere un pericolo per l’equilibrio mentale dei soggetti più fragili. Se è vero che le legislazioni di quasi tutti i Paesi mettono al bando alcune sostanze psicotrope, lo stesso atteggiamento di tutela dovrebbe riguardare i nuovi generatori linguistici sempre più capaci di essere percepiti come umani. Tuttavia, la strada del proibizionismo appare impervia, visto anche che le AGI più dotate, oggi saldamente in mano alle grandi aziende statunitensi, difficilmente potranno essere ricondotte nella giurisdizione europea.
Qualcosa però, in Europa, si può fare. Si tratta della concreta democratizzazione delle tecnologie linguistiche, che passa anzitutto per gli investimenti negli idiomi nazionali. Questi investimenti vanno visti come un fattore strategico e non possono essere lasciati soltanto al mercato. Una Intelligenza artificiale aperta, diffusa e verificabile in una pluralità di soggetti è la migliore tutela che possiamo oggi ipotizzare per la coscienza umana.
