Per come è presentata, promossa ma soprattutto imposta dal capitalismo, cioè come un dato di fatto a cui non si può dire di no, nemmeno quando trionfano bias e allucinazioni, l’intelligenza artificiale sembra davvero una magia meravigliosa – altro che Mago Merlino – capace di rivoluzionare ovviamente in meglio il mondo e la nostra vita; oppure sembra (o è già diventata) una metafisica digitale o un nuovo dio tecnologico, con le sue Tavole della legge (algoritmiche) da rispettare – con la sua religione fideistica e integralista, con la sua filosofia tecno-politica al posto della vecchia filosofia politica.
Indice degli argomenti
L’intelligenza artificiale come religione del capitalismo e propaganda di integrazione
Sembra (o è) una sorta di ulteriore evangelizzazione al capitalismo inteso come religione (e già cento anni fa il filosofo Walter Benjamin scriveva del capitalismo come di una religione), ma soprattutto, oggi ma da molto tempo, alla tecnica come religione (compresa la deriva paranoica di Peter Thiel profeta dell’Anticristo). Ma comunque e quale che sia il termine usato, si tratta di propaganda, o di marketing (che è la propaganda con altro nome).
Oppure, usando il dizionario inglese, si chiama hype per e sull’IA, ma è appunto sempre propaganda, in particolare propaganda di integrazione o sociologica, come scriveva il filosofo e sociologo della tecnica Jacques Ellul già nel 1962, finalizzata cioè a integrare tutti e ciascuno nel modello tecnico e capitalistico (nella sua forma/norma organizzativa, tutti assoggettati al suo comando eteronomo/eterodiretto, con ciascuno sempre sorvegliato), vincendo ogni possibile resistenza e opposizione.
“L’inganno dell’intelligenza artificiale”: il libro che smonta le promesse di Big Tech
E hype per e sull’IA è l’oggetto dell’ottimo e critico libro – anche se scritto secondo il modello standard della saggistica americana, che poco amiamo – di Emily M. Bender e Alex Hanna, dal titolo più che esplicito di L’inganno dell’intelligenza artificiale, da poco pubblicato per Fazi Editore (trad. di Roberto Laghi). Sottotitolo: Come resistere a Big Tech e costruire il futuro che vogliamo (pag. 320, € 20,00). Un libro che grida che il re – l’intelligenza artificiale – è nudo, aiutandoci – speriamo – a gridarlo in sempre di più.
Cos’è davvero l’hype sull’IA: paura di restare indietro e funzione culturale del marketing tecnologico
E “l’hype consiste nella esaltazione di una persona, un prodotto, una tecnologia o una tecnica che noi, consumatori, dobbiamo per forza comprare o su cui dobbiamo investire il prima possibile, per non essere tagliati fuori dall’intrattenimento, dalla soddisfazione, da una ricompensa economica. Dal ritorno sull’investimento, da una quota di mercato. […] Come altri tipi di hype, quello sull’IA gioca sulla paura di perdersi qualcosa (FOMO, acronimo di Fear Of Missing Out): viene ripetuto il messaggio secondo cui certe tecnologie – in questo caso, un insieme di metodi statistici sviluppati dall’informatica e dall’ingegneria – cambieranno il mondo e noi, consumatori o manager d’azienda dobbiamo assolutamente usarle, appunto per non rimanere indietro” – o peggio, per non essere marchiati con l’infamia di luddisti. Ovviamente, “la funzione commerciale dell’hype sulla tecnologia è aumentare le vendite di prodotti” – è appunto marketing travestito da Progresso – ma “quello sull’IA in particolare ha anche una funzione culturale: unisce un obiettivo commerciale all’immaginario popolare sulle macchine senzienti” o presentate come tali.
E certo “l’hype sull’IA esiste da quando esiste la ricerca sulla IA”, ma si replica anche per l’i.a. una tecnica propagandistica sempre uguale, sempre reiterata, sempre ben funzionante negli effetti sociali e antropologici, ontologici e teleologi che produce su di noi ingenui – ci ricadiamo sempre, con una facilità psicologica inquietante – e da sempre incapaci di vedere il potere e soprattutto la potenza (o pluspotenza, come preferiamo dire, avendo una sua essenza epistemica accrescitiva all’infinito, “causa sui”) non solo del capitalismo ma soprattutto della tecnica, finalizzata alla massimizzazione del profitto oltre che all’accrescimento del totalitarismo del sistema tecnico.
Gli anni ’90 e internet: come siamo già stati ingannati dalla retorica tecnologica
E infatti (non ci stanchiamo di ricordarlo, perché paradigmatico della nostra cecità davanti alla tecnica e appunto alla sua pluspotenza), negli anni ’90 del ‘900 le retoriche allora dominanti – la propaganda o l’hype per la rete di allora – sostenevano che grazie alle nuove tecnologie avremmo avuto più tempo libero da dedicare alle cose belle e importanti della vita, che la rete era libera e democratica in sé e per sé, che il lavoro pesante e alienante della fabbrica sarebbe diventato immateriale e cognitivo, cioè intelligente.
Ma è accaduto esattamente il contrario, lavoriamo h24 (in questo senso, il vecchio analogico – quando gli orari di lavoro si potevano ridurre grazie alla lotta di classe e all’azione del sindacato – era molto meglio del digitale, dove invece non solo i ritmi di lavoro si intensificano ma si allunga anche la giornata lavorativa); mentre il lavoro cognitivo oggi lo fa l’i.a., a noi basta schiacciare un pulsante, cioè siamo oggi più alienati di ieri. Eterogenesi dei fini, come si dice dottamente? No, nuovo accrescimento della pluspotenza epistemica della tecnica, che si basa su calcolo, calcolabilità e quindi quantificazione di tutto e di tutti noi, ridotti a numeri (a questo serve il Big Data), necessari per poi integrare, sussumere, orientare/modellare/standardizzare (oggi diremmo formattare, comunque manipolare) gli umani e la loro società, rendendo gli umani più meglio prevedibili e pianificabili nei loro automatismi comportamentali, quindi più funzionali e più produttivi al sistema.
Oggi come allora: lo stesso copione, lo stesso silenzio critico
E oggi l’hype per l’i.a. persegue appunto il medesimo obiettivo – farci accettare l’innovazione e il profitto di pochi, adattandoci alle esigenze della tecnica (della sua razionalità) e del capitale – senza pensare, reagire, opporci. E l’i.a. viene pubblicizzata/propagandata/hyperizzata infatti – ormai è uno tsunami sempre più alto, non passa giorno che in rete, in televisione e radio, nelle scuole e nelle università, nei mass/social media non venga presentata l’ultima magia dell’intelligenza artificiale, mai invece un pensiero critico, mai una riflessione complessa sul processo in corso, mai un confronto tra ieri e oggi – esattamente come internet negli anni ’90.
Le false promesse dell’IA: dalla sanità alla creatività, un déjà vu degli anni ’90
E infatti, scrivono le due autrici del saggio, oggi “ci viene detto che l’IA può rafforzare i servizi sociali dove sono carenti e fornire cure mediche dove mancano, educazione e istruzione per coloro che non vivono in un distretto scolastico ben finanziato e servizi legali per le persone che non possono permettersi un avvocato. Ci viene detto che l’IA fornirà versioni personalizzate di tutti questi servizi, rispondendo in modo flessibile ai bisogni dell’utente. Ci viene detto che l’IA democratizzerà l’attività creativa permettendo a chiunque di diventare un artista.
Ci viene detto che l’IA è sul punto di fare ricerca scientifica al nostro posto e di darci infine le risposte a problemi urgenti, dalle scoperte rivoluzionarie (trovare una cura per il cancro!), alla crisi climatica (trovare una soluzione per il riscaldamento climatico!)”. Negli anni ’90 siamo stati ingannati e abbiamo clamorosamente sbagliato, stiamo calorosamente sbagliando ora con l’i.a.
L’IA non è senziente e non semplifica il lavoro: le autrici smontano le “cazzate” del settore
Eppure. “Come forse avrete intuito dal nostro tono sarcastico”, proseguono le due autrici Bender e Hanna, “queste soluzioni, nel loro insieme, non sono altro che hype sull’IA”, cioè propaganda. O detto altrimenti, come scrivono, “cazzate” – spinte anche “da un giornalismo in affanno che ripete acriticamente le dichiarazioni delle aziende sull’IA che ci libererà dal lavoro” eccetera eccetera.
Perché invece “l’IA non è senziente, non renderà più facile il nostro lavoro” – Sam Altman ha anzi detto che l’i.a. serve soprattutto ad accrescere la nostra produttività, cosa che si ottiene solo escludendo i sapiens dal pensare, pensare è un tempo morto e per di più a rischio di errore e quindi riduce semmai la produttività e l’efficienza e l’efficientamento del sistema (lo avevano capito già Ford e Taylor cento e più anni fa) – “queste affermazioni possono però peggiorare il nostro lavoro e la qualità della nostra vita, a meno che non ci opponiamo alle crescenti ingerenze dell’intelligenza artificiale in ogni ambito della nostra vita pubblica e privata”.
I modelli linguistici e il razzismo nascosto nell’IA: l’analisi del libro
E così il libro si sviluppa e si articola su molti punti e sulle molte false promesse dell’i.a., partendo dall’analisi del funzionamento dei modelli linguistici di grandi dimensioni e dalla ricerca del perché noi umani – che evidentemente e teleologicamente dobbiamo diventare come macchine per essere poi sostituiti dalle macchine (e anche l’i.a. è una macchina, è tecnica) – siamo così portati a credere (sì, perché è un credere fideistico/ideologico, non un pensare razionale, né umanistico), che “queste macchine siano dotate di capacità di pensiero superiori”, mentre questa ricerca di una intelligenza generale non è solo vana, ma anche radicata in una storia **profondamente razzista”.
L’automazione come minaccia ai lavoratori: uno schema antico
E nel libro vengono analizzati in particolare i modi con cui l’i.a. – “come ogni altra forma di automazione precedente” – viene imposta ai lavoratori e per di più “come venga usata come una minaccia ai loro mezzi di sostentamento, uno schema vecchio come la rivoluzione industriale e come lo è la resistenza dei lavoratori” – ma su quest’ultimo punto abbiamo qualche remora ad essere così fiduciosi, oggi, sì che il sistema tecnico è enne volte più pervasivo e invasivo nella psiche umana, come invece non lo era (ancora) l’analogico.
Le autrici criticando poi le favole sulle reti neurali, sottolineando e ribadendo però così il fatto che l’uomo si riduce a un essere quantificabile e razionalizzabile ed eteronormato solo tecnicamente – riflessione non nuova, pensiamo alla critica del calcolo di Simone Weil, di Jacques Ellul, di Günther Anders e infine nostra.
Resistere all’hype: le proposte del libro e i loro limiti
Qui ci fermiamo – ma nel libro c’è, come detto, molto altro – e rimandiamo il lettore direttamente alle esaustive e insieme inquietanti pagine del libro con cui le autrici ci accompagnano a scoprire cosa si nasconde sotto l’hype per l’intelligenza artificiale – e sotto l’i.a. in sé. Anche se ancora deboli – ma comunque importanti – ci sembrano le loro proposte di resistenza: ovvero, come “costruire una tecnologia con il pieno coinvolgimento delle persone su cui avrà un effetto” se non però democratizzando i processi capitalistici di innovazione?
O ancora: come esercitare il potere di dire no e di rifiutare l’hype per l’i.a., insieme costruendo “una tecnologia che sia al nostro servizio, guardando oltre le apparenze e chiedendoci che tipo di futuro vogliamo costruire insieme”? Certo, “l’attuale ondata di hype finirà e questa bolla esploderà, speriamo il prima possibile; e la storia ci insegna che non sarà l’ultima, la prossima volta cambierà il nome delle tecnologie […] ma le dinamiche dell’hype saranno probabilmente le stesse. Quindi, più ci saranno persone capaci di resistere, minore sarà l’impatto distruttivo della bolla dell’hype”. Giusto, ma Bender e Hanna non scrivono però (ad esempio) di nazionalizzazione dell’i.a., né ipotizzano l’uscita da quella che noi chiamiamo tecno-archía del calcolo e del numero.
ELIZA e le origini dei chatbot: da Weizenbaum ai modelli linguistici di oggi
Qui ci piace ricordare però, ancora con le autrici del libro, ELIZA, con un ulteriore passo indietro agli anni ’60 e ’70. A quando Joseph Weizenbaum, emigrato negli Usa dalla Germania e docente al MIT, sviluppa il chatbot ELIZA, chiamato così in omaggio al personaggio di Pigmalione di George Bernard Shaw e pensato “per condurre una conversazione nello stile di uno psicoterapeuta rogersiano [cioè con una terapia basata sulla persona, una terapia non direttiva] e il programma si limitava soprattutto a ripetere ciò che i pazienti dicevano, riformulando i loro pensieri come domande”, cioè quasi tautologicamente o autoreferenzialmente.
Weizenbaum aveva ragione: i computer non possono essere saggi
Che è quanto fanno i chatbot di intelligenza artificiale di oggi, evoluzione o involuzione della specie-chatbot. Weizenbaum era ben consapevole dei limiti di questo approccio, non lo furono coloro che sfruttarono i suoi studi e le sue ricerche. Weizenbaum credeva infatti “che i computer riducessero la nostra umanità invece di espanderla, spingendo le persone a pensarsi come poco più che macchine. Affidando così tante decisioni ai computer […] abbiamo creato un mondo più iniquo e meno razionale, in cui la ricchezza del ragionare umano è stata appiattita nelle routine insensate del codice informatico“.
E aggiungeva: “I computer possono prendere decisioni giuridiche e formulare giudizi psichiatrici. […] Il punto è che questi compiti non devono essere loro affidati. Può anche darsi che in certi casi sappiano arrivare a decisioni corrette; ma sempre e necessariamente sulla base di meri dati che nessun essere umano dovrebbe accettare. […] I limiti di applicabilità dei computer possono in definitiva essere stabiliti soltanto a base di ‘Si deve…?’. La più elementare regola che emerge è che, visto che non abbiamo alcun modo per rendere saggi i computer” – i numeri non possono essere saggi ed etici – “non dobbiamo dare loro compiti che richiedano saggezza”.
La propaganda di integrazione di Ellul e l’hype sull’IA: un unico meccanismo di controllo
E quindi torniamo all’inizio, riprendendo il concetto di propaganda di integrazione o sociologica di Jacques Ellul (1962). Che si ha quando “si cerca di integrare il maggior numero di individui possibile, di unificare e omologare il comportamento dei suoi membri, di diffondere un certo stile di vita e di imporsi ad altri gruppi” – e sottolineiamo integrare, unificare e omologare. “Questa propaganda è un fenomeno molto difficile da cogliere e raramente viene preso in considerazione”, ma è molto diffusa. In questo caso sono i fattori economici e oggi tecnologici a far penetrare una determinata ideologia negli individui e nelle masse. “Essa è costituita da un clima generale, da un ambiente che agisce in modo inconscio e cattura la persona nei suoi usi, in ciò che, nelle sue abitudini, ha di più inconsapevole. Si tratta cioè di un progressivo adattamento a un determinato ordine delle cose, di una determinata concezione delle relazioni umane che, inconsciamente, modella gli individui, rendendoli conformi alla società”.
Che è esattamente – di nuovo – ciò che fa oggi (ciò per cui serve) l’hype per lo sviluppo dell’intelligenza artificiale.
