Questo sito web utilizza cookie tecnici e, previo Suo consenso, cookie di profilazione, nostri e di terze parti. Chiudendo questo banner, scorrendo questa pagina o cliccando qualunque suo elemento acconsente all'uso dei cookie. Leggi la nostra Cookie Policy per esteso.OK

lo scenario

Welfare, cosa rischiamo se deleghiamo i diritti sociali all’algoritmo

Se tutto è amministrato da algoritmi – compreso il welfare, cioè i diritti sociali – l’uomo non è più individuo libero e soggetto che pensa, decide e poi fa e ma oggetto governato da un tecno-capitalismo che sempre più decide per lui. Siamo ben oltre la dittatura, stiamo entrando nel totalitarismo del calcolo. Ecco i rischi

15 Nov 2019
Lelio Demichelis

Docente di Sociologia economica Dipartimento di Economia- Università degli Studi dell’Insubria


La promessa di digitalizzare il welfare – i nostri diritti sociali – altro non è che una nuova, pericolosa, distopia digitale che andrà a produrre non solo una rivoluzione/involuzione ulteriore nei e dei sistemi di welfare state, ma una forma aggiornata – direbbe un marxista – di lotta di classe ma ancora una volta dei ricchi contro i poveri.

Partiamo da una parola magica degna di Mago Merlino, che tutto trasforma: smart. Ma forse, e peggio, richiamando 1984 di Orwell, parte strutturante della neolingua del totalitarismo oggi digitale. Oggi tutto è smart (smart-phone, smart-work, smart-city, eccetera) – e la parola significa molte cose che appunto la rendono magica, affascinante, irresistibile, inarrestabile.

Smart, cioè rapido, veloce, abile, acuto, brillante, sveglio, intelligente, ma anche alla moda ed elegante. Impossibile non essere smart, impossibile non voler/dover essere smart; il rischio – intollerabile secondo i canoni dell’imperativo categorico dell’autostima utilitaristica e del determinismo tecnologico – è passare per non-smart, cioè: lento, opaco, stupido, fuori moda, non al passo coi tempi.

L’idea (o l’incubo) di un welfare state digitale

Lo stesso vale per l’idea (o l’incubo?) di un welfare state digitale, cui The Guardian ha dedicato molti articoli. Una soluzione venduta dalla propaganda digitale in termini di maggiore efficienza e trasparenza/intelligenza del sistema e di sua razionalizzazione, creando uno smart-welfare state (ben oltre lo smart welfare aziendale), in realtà del tutto inefficiente in termini di giustizia sociale e di universalità del diritto al welfare in quanto appunto basato sulla standardizzazione matematica dell’uomo e non sui bisogni dell’uomo e le sue molteplicità. Un’altra pericolosa distopia tecnologica, secondo Philip Alston, relatore all’Onu sulla povertà estrema: dove “le tecnologie digitali sono appunto usate nei sistemi di welfare per sorvegliare, controllare, targettizzare o punire i beneficiari del welfare, in particolare i più poveri e vulnerabili tra loro”.

Smart, ma anche no

Smart, dunque: parola magica/parola cardine della neolingua digitale, accanto a condividere/sharing, eco-sistema digitale e social – facendoci dimenticare che i social sono in realtà imprese private il cui unico scopo è massimizzare i profitti per sé; e che gli ecosistemi naturali si basano sull’equilibrio mentre il tecno-capitalismo è squilibrante/disruptivo per definizione ed essenza, quindi – per ridare un senso non ideologico alle parole – si deve parlare di tecno-sistema digitale e non di eco-sistema digitale. E se è vero ciò che scriveva Novalis – “l’uomo, per pigrizia, desidera un puro meccanismo o una pura magia” – ebbene oggi la tecnica (IA/IoT/machine learning/algoritmi predittivi/eccetera) si offre insieme come purissimo meccanismo (anche un algoritmo è tecnica/macchina e soprattutto meccanismo-macchinismo) e come purissima magia. Dalla tecnica siamo affascinati, è il nostro nuovo e globale feticcio ma anche, e peggio, il nostro ultimo dio: che incessantemente adoriamo, lo smart-phone sempre proteggendoci, stando al nostro fianco, nella tasca o nella borsa e guidandoci per gli incerti sentieri della vita come un nuovo angelo custode virtuale. Che a differenza di quello immateriale perché celeste è invece fisico e materiale (anche se ci porta a vivere nel virtuale), cioè lo possiamo toccare (touch, appunto) come mai nessun altro angelo custode. Su di noi, la tecnica che si offre come smart – anche se in realtà produce appunto la nostra totale sussunzione nel sistema tecnico (a questo serve appunto la neolingua che dice e scrive: smart) – produce lo stesso effetto del divertimento, perché davanti al divertimento, scriveva Günther Anders, ci disarmiamo totalmente e ci affidiamo ad esso senza precauzioni incomparabilmente più incauti e indifesi che nei confronti di qualunque altro potere. E se tutto è smart, perché fare la fatica di scegliere una musica, accendere la luce, gestire il frigorifero, guidare un’auto, pensare e riflettere prima di fare se qualcosa (per di più smart) lo fa per noi?

Gli smart-idioti

Questo mondo smart in realtà ci sta trasformando in idioti nel senso etimologico di incompetenti, inesperti, ignoranti, stupidi, incolti, incapaci di valutare e di decidere autonomamente quale musica ascoltare (perché decide per noi un assistente virtuale), come trovare una strada (decide il navigatore), come assumere un collaboratore (seleziona un algoritmo), come trovare un amico o un paio di scarpe (c’è una app), quali notizie e quali libri leggere (ci aiutano Facebook e Amazon). È la nostra delega totale alla tecnica, la peggiore forma di alienazione che si potesse mai realizzare (nel senso di Marx, ma soprattutto di alienazione come divenire altro da se stessi, in questo caso rinunciando totalmente ad essere se stessi); ma insieme e di nuovo di nostra totale sussunzione nell’apparato tecno-capitalista, identificandoci con l’apparato, facendo nostre le sue forme e le sue norme comportamentali, affidandoci/delegando ad esso per ogni valutazione e decisione.

Lo stesso sta accadendo appunto per le nuove tendenze nel welfare (o di ciò che ne rimane), che ci stanno portando verso un welfare algoritmico. Dove sarà (è) un algoritmo a decidere se abbiamo o non abbiamo diritto a una certa prestazione, ad un certo sostegno. Quello che era un diritto universale e indisponibile in quanto diritto dell’uomo – appunto il diritto sociale ad essere aiutati in caso di bisogno, di difficoltà, di perdita del lavoro, di malattia eccetera – viene gestito e deciso da un algoritmo. Smart ovviamente, cioè intelligente a prescindere, che decide secondo logiche di mera razionalità calcolante/strumentale o meglio industriale (Horkheimer), di efficienza, di matematica, cioè di esattezza – che per noi è ormai il massimo di razionalità e purtroppo anche di verità (non è vero ciò che è vero ma ciò che l’algoritmo asserisce essere vero), tanto siamo ormai sussunti nel sistema, nelle sue logiche e soprattutto nel suo immaginario collettivo e nel suo dizionario, cioè in quella sovrastruttura marxiana (di cui appunto la neolingua digitale è un elemento costitutivo e istituente), che legittima e rende riproducibile il sistema tecno-capitalista e la sua struttura, oggi rappresentata da piattaforme/algoritmi ma anche, su tutto, cioè in premessa, dalla egemonia della sua razionalità strumentale-industriale (la meta-sovrastruttura che legittima la struttura, dotandola di verità e di autorità).

Ragione industriale vs giustizia sociale

Uno smart-welfare state razionale, ma non necessariamente giusto. Anzi, profondamente ingiusto e ulteriormente disuguagliante. Perché quando anche i diritti (sociali in questo caso) dell’uomo vengono gestiti da un algoritmo e non da criteri di giustizia (non solo di giustizia sociale, ma di giustizia in sé e per sé), allora davvero stiamo scivolando lungo un pericolosissimo piano inclinato dove alla fine ci sarà solo quella società amministrata denunciata già più di mezzo secolo fa dalla Scuola di Francoforte (Horkheimer, ancora, ma anche Adorno e Marcuse). Dove tutto sarà automatizzato, dal governo al traffico e ora anche al welfare e ai diritti dell’uomo.

Perché se anche i diritti dell’uomo – la loro applicazione e il loro riconoscimento o meno – dipendono da un calcolo matematico (siano essi diritti civili, politici e appunto sociali come il welfare), allora siamo ben oltre la dittatura del calcolo e stiamo entrando (siamo già entrati) nel totalitarismo del calcolo, il totalitarismo della razionalità strumentale-industriale che ha conquistato il dominio e l’egemonia su di noi e sul mondo, determinando appunto ciò che è vero e falso, giusto e ingiusto – è il suo regime di verità, secondo Eric Sadin – solo sulla base del calcolo, della razionalità industriale (costi-benefici), a prescindere dall’uomo e dai suoi diritti e bisogni. Quei diritti dell’uomo e del cittadino scritti dalla modernità illuministica e oggi invece uccisi dalla razionalità industriale e ammessi/concessi a discrezione del sistema tecnico e capitalistico – e solo se funzionali al funzionamento del sistema, di fatto svuotandoli di essenza e soprattutto subordinandoli appunto alle esigenze della rivoluzione industriale (come dettato dal neoliberalismo), ovvero a ciò che definiamo come tecno-capitalismo.

Sistema “la cui razionalità è appunto totalitaria”, anche se in realtà “la società è integrale prima ancora di essere governata in modo totalitario” (Adorno) – e oggi basta pensare al dover essere sempre connessi, cioè integrati in rete (e peggio: sussunti o ibridati con le macchine-algoritmi); o alla fabbrica integrata, che era il sogno di Ford e di Taylor e di Ohno e che si compie e sublima oggi appunto nella rete come fabbrica integrata globale, integralistica perché integrata e integrante, dove ciascuno di noi è proletario della fabbrica-rete, cioè ha venduto (spesso gratuitamente) la sua forza lavoro, il suo pluslavoro (ancora Marx, ahimè più attuale che mai), la sua identità/soggettività, la sua vita intera – quando produce, quando consuma, quando genera dati in rete.

Il totalitarismo del calcolo o la società amministrata

Un totalitarismo del calcolo o meglio del tecno-capitalismo che su questa irrazionale razionalità strumentale-industriale sta costruendo il proprio potere e soprattutto – di nuovo – il proprio regime di verità basato su algoritmi e calcolabilità, che è la forma perfetta per esercitare il potere e l’autorità sugli uomini. E che ora si accresce ulteriormente applicandosi anche al welfare, producendo (o contribuendo pesantemente a produrre) in realtà anche una nuova forma di selezione sociale oltre il digital divide: eliminando/escludendo quelli che il sistema del calcolo considera dei falsi bisognosi, o dei troppo poveri e quindi inadatti alle logiche del sistema industriale perché in-capaci di essere produttivi o da cui poter estrarre valore per il sistema.

Scriveva Adorno, richiamando Sigmund Freud: la massa “desidera essere governata da una forza illimitata: ha una passione estrema per l’autorità: con un’espressione di Le Bon, ha sete di obbedienza. Il padre originario è l’ideale della massa, che governa l’ego al posto dell’ego ideale”; e ancora: “il dominio si tramanda attraverso i dominati”. E non c’è modo migliore per far adattare gli uomini al potere che standardizzarne/omologarne i comportamenti, rendendoli ripetitivi e automatici e quindi normalizzandoli – e a questo servono anche o soprattutto le retoriche smart: per costruire/ingegnerizzare una vita umana funzionale al sistema, normandola sulla base del meccanismo dello stimolo/risposta (devi essere sempre connesso, devi condividere tutto della tua vita, devi farti profilare, devi farti guidare da app/algoritmi, devi essere prevedibile e sempre controllabile) – e rendere così automatica e normale la nostra delega alla tecnica. E oggi, non vogliamo appunto essere governati da quella forza illimitata che si chiama tecnica/algoritmo? Evidentemente sì, se siamo incapaci di vedere dove ci stanno portando le retoriche smart e la razionalità strumentale-industriale. Con il tecno-capitalismo che nega totalmente la ragione degli illuministi, per i quali invece sapere aude! (Kant), che oggi si azzera, invece e appunto, se deleghiamo alla tecnica/algoritmo il sapere per decidere, auto-alienandoci dalla consapevolezza di essere soggetti per divenire felicemente oggetti di una decisione presa da un algoritmo più o meno predittivo, sulla base dei nostri comportamenti precedenti. Di nuovo: il digitale non è il regno della creatività, ma la totale standardizzazione/prevedibilità dei comportamenti umani, Industria 4.0 compresa.

E questo perché “i fattori sociali che determinano in misura crescente la vita umana – la manipolazione attraverso i mass media, l’organizzazione del tempo libero, l’amministrazione in generale – vengono perfezionati, rendono omogeneo [in realtà, devono rendere omogeneo/standardizzato] il comportamento dei diversi individui e sostituiscono la morale nella funzione di dirigere il comportamento” – scriveva Max Horkheimer cinquant’anni fa (ora in Studi di filosofia della società, Mimesis). E ancora (ma nel 1959): “L’uomo della società industriale, plasmato socialmente e pronto a reagire con rapidità, duttile e pronto all’adattamento [oggi diremmo appunto: smart – ma la sostanza non cambia], viene sussunto dalla strapotenza della struttura immediata degli interessi e insieme dalla massa compatta degli strumenti che convergono nel forgiare le opinioni”.

Come restare umani. E giusti

E allora, per restare umani; per restare soggetti consapevoli e responsabili; per essere davvero individui autonomi e non eteronomi; per non diventare proletari sfruttati ma felici (Carlo Formenti) della fabbrica-integrata/rete/smart, ormai incapaci di acquisire una coscienza di classe umana contro la tecnica/padrona – ebbene occorre in primo luogo uscire dalla razionalità strumentale-industriale che ci sta oggi portando – è appunto il piano inclinato esistenziale lungo il quale stiamo scivolando – anche al welfare digitale. Occorre uscire dal totalitarismo del calcolo e dis-alienarci/de-sussumerci dal tecno-capitalismo/fabbrica integrata/integrante/integralistica. Rivendicare il diritto a una razionalità altra e responsabile, capace di lungi-miranza verso la biosfera e i diritti delle future generazioni. Recuperare il concetto – dimenticato/rimosso – della giustizia (sociale e non solo). E rivendicare una libertà umana e una umanità libera dai lacci e lacciuoli in cui le stanno rinchiudendo non lo stato (come credeva Guido Carli, preparando il terreno all’egemonia neoliberale), ma la tecnica e il capitalismo, con gli algoritmi come ultima evoluzione/involuzione della gabbia d’acciaio weberiana.

Perché se tutto è amministrato da algoritmi/Iot/piattaforme/Big Data – compreso il welfare, cioè i diritti sociali dell’uomo e dove, se digitale, è un algoritmo e non Dio a decidere chi è salvato e chi dannato – l’uomo cessa di essere individuo libero e soggetto che pensa, decide e poi fa e diviene appunto oggetto fatto/amministrato/governato da un tecno-capitalismo che sempre più decide per lui, a prescindere dall’uomo, compreso il suo essere potere capace di produrre nuova disuguaglianza attraverso il welfare digitale e di ingegnerizzare i comportamenti – ma rileggendo Horkheimer abbiano visto che smart è solo il nuovo nome di qualcosa di ben più vecchio. L’uomo perde cioè la consapevolezza del funzionamento dell’apparato nel suo insieme, che appunto funziona in automatico-smart. E diviene post-umano nel senso che cessa di essere soggetto umano dotato di autonomia, soggettività, libertà, per divenire parte appunto sussunta in qualcosa che non controlla più. Neppure il welfare. Neppure – e prima ancora – il linguaggio, tutti noi subendo la fascinosa neolingua digitale. Dimenticando – ancora Horkheimer (e già nel 1952) – che sempre più “il linguaggio diventa un puro strumento dell’onnipotente apparato di produzione della società moderna”. Con parole come smart, appunto; o intelligenza artificiale, o ecosistema digitale, o razionalità strumentale-industriale.

Scriveva il pessimista Jacques Ellul: “ogni nuovo elemento tecnico, ogni nuova innovazione tecnica è solo un mattone dell’edificio dell’apparato, un ingranaggio del sistema tecnico. (…) Ci troviamo qui in presenza di un fatto di importanza decisiva: l’uomo rifiuta radicalmente di conoscere il processo [tecnico], e ponendo la questione in termini metafisici e assoluti, si convince che tutto sia ancora possibile (…) e che il nuovo fattore tecnico sia liberatore. Così tranquillizzato lascia progredire il meccanismo e poi, quando vede il risultato, dice: Ma questo non era ciò che avevamo previsto. Ma [ormai] il danno è fatto”.

Ma dimenticarlo ci porta dall’essere stati (forse) homines sapientes a divenire (certamente) idioti.

**************************************************************************************************

Bibliografia di riferimento:

Adorno T. W. (2008), Minima moralia, Einaudi, Torino

Anders G. (2003), L’uomo è antiquato, II° vol., Bollati Boringhieri, Torino

Demichelis L. (2015), La religione tecno-capitalista. Dalla teologia politica alla teologia tecnica, Mimesis, Milano

Demichelis L. https://www.economiaepolitica.it/2019-anno-11-n-18-sem-2/ordo-liberalismo-e-ordo-macchinismo-leclissi-della-democrazia-e-della-giustizia-sociale/

Ellul J. (2009), Il sistema tecnico, Jaca Book, Milano

Formenti C. (2011), Felici e sfruttati, Egea, Milano

Galimberti U. (1999), Psiche e techne, Feltrinelli, Milano

Horkheimer M. (2019), Studi di filosofia della società, Mimesis, Milano

Horkheimer M. (1980), La società di transizione, Einaudi, Torino

Kant I. (2006), Che cos’è l’Illuminismo, Editori Riuniti, Roma

Sadin E. (2019), Critica della ragione artificiale, Luiss, Roma

Zellini P. (2018), La dittatura del calcolo, Adelphi, Milano

@RIPRODUZIONE RISERVATA

Articolo 1 di 4