linguaggio delle macchine

L’intelligenza artificiale non avrà mai coscienza, ma potrà cambiare la nostra: ecco come

È il linguaggio la vera porta da cui gli oggetti o automi si stanno facendo strada nelle nostre coscienze. Ecco perché è ozioso continuare a discutere di AI senziente: dovremmo preoccuparci, piuttosto, dei nuovi generatori linguistici sempre più capaci di essere percepiti come umani

Pubblicato il 06 Lug 2022

Guido Vetere

Università degli Studi Guglielmo Marconi

La consapevolezza di sé stessi: cosa serve raggiungere un’alta autoconsapevolezza

L’avvento dell’intelligenza artificiale generale (Artificial General Intelligence, AGI) capace dei più vari compiti per mezzo di grandi e profonde reti neurali, cioè di dispositivi di apprendimento automatico così potenti, sofisticati e oscuri da far venire a qualcuno il dubbio che possano anche divenire coscienti, è un megatrend della comunicazione pubblica.

Analisti di diverse estrazioni, tecnologi, economisti, sociologi, linguisti, filosofi, producono quotidianamente una messe di articoli, post, libri, interviste e podcast sull’argomento. Negare che una AGI possa divenire cosciente (qualsiasi cosa significhi), in particolare, è diventato un frequentatissimo luogo comune, e anche l’elenco dei limiti e dei potenziali fallimenti dell’AGI è ormai quasi un mantra della pubblicistica tecnologica.

Tutto vero: ma così stiamo perdendo di vista il vero problema.

Un’intelligenza artificiale senziente? Ma è d’altro che dobbiamo preoccuparci

L’oziosa discussione sull’incoscienza delle macchine

Una rete neurale non ha maggior senso di sé di un frullatore, e fuori dalla comfort zone del suo task sta più a disagio di Peter Sellers in Hollywood party. Ma c’è il sospetto che tutta questa emotività mediatica sul tema dell’incoscienza delle macchine stia alimentando una discussione fondamentalmente oziosa. Gli automi, inconsapevoli e specializzati come sono, stanno comunque occupando territori sempre più vasti della nostra vita economica, sociale e personale. Esorcizzare questa pervasività puntando il dito sui loro limiti probabilmente non porta a nulla, e anzi può far perdere di vista alcune cruciali implicazioni delle trasformazioni in atto.

La domanda interessante non è se gli automi potranno acquisire una coscienza: a questa ha risposto John Searle già nel secolo scorso, e la risposta è un “no”. Né il superamento (di fatto) del Test di Turing da parte dei recenti transformer linguistici può cambiare quel verdetto: anzi, è proprio l’euristica del famoso test ad essere messa in crisi dagli abilissimi ma insipienti automi neurali. La domanda interessante, invece, è quella esattamente speculare: quale sarà l’impatto dell’automazione intelligente sulla coscienza umana?

L’intelligenza artificiale potrà cambiare la nostra coscienza?

Se la AGI non avrà mai coscienza, potrà tuttavia cambiare la nostra? Si tratta di una domanda molto difficile, ma non perché abbia a che fare con la distopia del “cervello postumano” che attrae perfino l’attenzione di Slavoj Žižek. Possiamo ben sperare, infatti, che un cervello drogato da cose come il Neuralink di Elon Musk non veda mai la luce. No: il tema è più sottile, concreto e attuale.

Un oggetto può imprimersi feticisticamente in una coscienza umana. Chi vende merci lo sa bene: c’è chi si identifica nella propria automobile o nelle proprie scarpe. Ma oggi abbiamo davanti qualcosa che neanche Marx poteva prevedere: sono già in circolazione automi, cioè oggetti, che entrano nella coscienza dalla porta principale, quella del linguaggio. Questi oggetti sono molto più che semplici merci: stanno diventando infatti parte integrante, anzi portante, del sistema della produzione, del commercio e dei servizi. L’automazione è una leva potentissima di profitto, e la capacità di generare e interpretare linguaggio è una leva potentissima dell’automazione. L’automa linguistico si presenta dunque alla coscienza umana con la forza illocutoria del capitale e la voce tonante delle grandi aziende-nazione tecnologiche che stanno ridefinendo i confini geopolitici globali.

Cosa accadrà quando l’IA saprà “creare” emozioni? La lezione del film “Her”

Innamorarsi di un algoritmo

Sembra difficile affermare che il modo in cui percepiamo noi stessi in relazione al mondo non subirà alcuna trasformazione in un ambiente in cui la nostra fondamentale capacità sociale, quella del linguaggio, viene esercitata sempre più anche da pseudo-soggetti automatici del tutto estranei al nostro modo di intendere le parole. In Cina accade già che migliaia di uomini intrattengano – per dire così – “relazioni romantiche” con una chatbot. Quale impatto avrà sulle loro coscienze il fatto che questa pseudo-fidanzata dirà loro, verosimilmente, frasi stereotipate, profondamente ignare della loro specifica situazione emotiva ed esistenziale? Quale immagine di sé può formarsi colui o colei che si riflette nello specchio normalizzante, conformistico e opaco del silicio?

Alcune delle preoccupazioni espresse dall’Unione europea sull’Intelligenza artificiale (AI Act, 2021) riguardano proprio la capacità degli automi di ingannare i loro interlocutori umani fingendosi viventi. Ma la questione non si risolve di certo con qualche disclaimer: i giovanotti cinesi sanno benissimo di essere fidanzati con un algoritmo, ma a quanto pare liquidano la cosa con la battuta finale di A qualcuno piace caldo: “nessuno è perfetto”. L’attitudine proiettiva dell’umano può far strame di qualsiasi realtà. Abbiamo quindi da un lato la pressione del capitalismo automatizzante che trova nella generazione di linguaggio un grande business, dall’altra la disponibilità delle persone verso qualsiasi cosa alla quale possa essere attribuita qualche intenzione comunicativa. Non si tratta di credulità (gullability) come qualcuno ha detto, ma di umana disponibilità e di impellente soddisfazione di esigenze vitali. Insomma: la lama del profitto entra nel burro del bisogno.

Artificial Intelligence Act: l’UE regola l’AI ma dimentica di proteggere la mente

Cosa può fare l’Europa

Parlare con un automa può essere alienante e può alterare quel senso di realtà che ci viene trasmesso nell’interazione con i nostri simili. Al limite, può essere un pericolo per l’equilibrio mentale dei soggetti più fragili. Se è vero che le legislazioni di quasi tutti i Paesi mettono al bando alcune sostanze psicotrope, lo stesso atteggiamento di tutela dovrebbe riguardare i nuovi generatori linguistici sempre più capaci di essere percepiti come umani. Tuttavia, la strada del proibizionismo appare impervia, visto anche che le AGI più dotate, oggi saldamente in mano alle grandi aziende statunitensi, difficilmente potranno essere ricondotte nella giurisdizione europea.

Qualcosa però, in Europa, si può fare. Si tratta della concreta democratizzazione delle tecnologie linguistiche, che passa anzitutto per gli investimenti negli idiomi nazionali. Questi investimenti vanno visti come un fattore strategico e non possono essere lasciati soltanto al mercato. Una Intelligenza artificiale aperta, diffusa e verificabile in una pluralità di soggetti è la migliore tutela che possiamo oggi ipotizzare per la coscienza umana.

Valuta la qualità di questo articolo

La tua opinione è importante per noi!

EU Stories - La coesione innova l'Italia

Tutti
Iniziative
Analisi
Social
Video
Agevolazioni
A febbraio l’apertura dello sportello Mini Contratti di Sviluppo
Quadri regolamentari
Nuovi Orientamenti sull’uso delle opzioni semplificate di costo
Coesione
Nuovo Bauhaus Europeo (NEB): i premi che celebrano innovazione e creatività
Dossier
Pubblicato il long form PO FESR 14-20 della Regione Sicilia
Iniziative
400 milioni per sostenere lo sviluppo delle tecnologie critiche nel Mezzogiorno
Formazione
“Gian Maria Volonté”: dalle aule al mondo del lavoro, focus sui tirocini della Scuola d’Arte Cinematografica
TRANSIZIONE ENERGETICA
Il ruolo del finanziamento BEI per lo sviluppo del fotovoltaico in Sicilia
Formazione
“Gian Maria Volonté”: dalla nascita ai progetti futuri, focus sulla Scuola d’Arte Cinematografica. Intervista al coordinatore Antonio Medici
MedTech
Dalla specializzazione intelligente di BionIT Labs una innovazione bionica per la disabilità
Finanza sostenibile
BEI e E-Distribuzione: investimenti per la sostenibilità energetica
Professioni
Servono competenze adeguate per gestire al meglio i fondi europei
Master
Come formare nuove professionalità per governare e gestire al meglio i fondi europei?
Programmazione UE
Assunzioni per le politiche di coesione: prossimi passi e aspettative dal concorso nazionale. Il podcast “CapCoe. La coesione riparte dalle persone”
innovazione sociale
Rigenerazione urbana: il quartiere diventa un hub dell’innovazione. La best practice di San Giovanni a Teduccio
Programmazione europ
Fondi Europei: la spinta dietro ai Tecnopoli dell’Emilia-Romagna. L’esempio del Tecnopolo di Modena
Interventi
Riccardo Monaco e le politiche di coesione per il Sud
Iniziative
Implementare correttamente i costi standard, l'esperienza AdG
Finanziamenti
Decarbonizzazione, 4,8 miliardi di euro per progetti cleantech
Formazione
Le politiche di Coesione UE, un corso gratuito online per professionisti e giornalisti
Interviste
L’ecosistema della ricerca e dell’innovazione dell’Emilia-Romagna
Interviste
La ricerca e l'innovazione in Campania: l'ecosistema digitale
Iniziative
Settimana europea delle regioni e città: un passo avanti verso la coesione
Iniziative
Al via il progetto COINS
Eventi
Un nuovo sguardo sulla politica di coesione dell'UE
Iniziative
EuroPCom 2024: innovazione e strategia nella comunicazione pubblica europea
Iniziative
Parte la campagna di comunicazione COINS
Interviste
Marco De Giorgi (PCM): “Come comunicare le politiche di coesione”
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politiche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia
Agevolazioni
A febbraio l’apertura dello sportello Mini Contratti di Sviluppo
Quadri regolamentari
Nuovi Orientamenti sull’uso delle opzioni semplificate di costo
Coesione
Nuovo Bauhaus Europeo (NEB): i premi che celebrano innovazione e creatività
Dossier
Pubblicato il long form PO FESR 14-20 della Regione Sicilia
Iniziative
400 milioni per sostenere lo sviluppo delle tecnologie critiche nel Mezzogiorno
Formazione
“Gian Maria Volonté”: dalle aule al mondo del lavoro, focus sui tirocini della Scuola d’Arte Cinematografica
TRANSIZIONE ENERGETICA
Il ruolo del finanziamento BEI per lo sviluppo del fotovoltaico in Sicilia
Formazione
“Gian Maria Volonté”: dalla nascita ai progetti futuri, focus sulla Scuola d’Arte Cinematografica. Intervista al coordinatore Antonio Medici
MedTech
Dalla specializzazione intelligente di BionIT Labs una innovazione bionica per la disabilità
Finanza sostenibile
BEI e E-Distribuzione: investimenti per la sostenibilità energetica
Professioni
Servono competenze adeguate per gestire al meglio i fondi europei
Master
Come formare nuove professionalità per governare e gestire al meglio i fondi europei?
Programmazione UE
Assunzioni per le politiche di coesione: prossimi passi e aspettative dal concorso nazionale. Il podcast “CapCoe. La coesione riparte dalle persone”
innovazione sociale
Rigenerazione urbana: il quartiere diventa un hub dell’innovazione. La best practice di San Giovanni a Teduccio
Programmazione europ
Fondi Europei: la spinta dietro ai Tecnopoli dell’Emilia-Romagna. L’esempio del Tecnopolo di Modena
Interventi
Riccardo Monaco e le politiche di coesione per il Sud
Iniziative
Implementare correttamente i costi standard, l'esperienza AdG
Finanziamenti
Decarbonizzazione, 4,8 miliardi di euro per progetti cleantech
Formazione
Le politiche di Coesione UE, un corso gratuito online per professionisti e giornalisti
Interviste
L’ecosistema della ricerca e dell’innovazione dell’Emilia-Romagna
Interviste
La ricerca e l'innovazione in Campania: l'ecosistema digitale
Iniziative
Settimana europea delle regioni e città: un passo avanti verso la coesione
Iniziative
Al via il progetto COINS
Eventi
Un nuovo sguardo sulla politica di coesione dell'UE
Iniziative
EuroPCom 2024: innovazione e strategia nella comunicazione pubblica europea
Iniziative
Parte la campagna di comunicazione COINS
Interviste
Marco De Giorgi (PCM): “Come comunicare le politiche di coesione”
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politiche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia

Articoli correlati