Algoritmi nuova forma di burocrazia: ecco perché - Agenda Digitale

Affinità elettive disfunzionali

Algoritmi nuova forma di burocrazia: ecco perché

La suggestione secondo cui gli algoritmi di gestione dei dati sarebbero una forma se non proprio la nuova forma della burocrazia nelle società avanzate rientra a pieno titolo fra le riflessioni più stringenti della contemporaneità. Ecco perché è importante giungere a un ragionamento (anche) politico sulla questione

08 Giu 2021
Luigi Giungato

ricercatore della Socint (Società italiana di intelligence)

Alla fine della guerra fredda e agli albori della rivoluzione digitale, mentre il mondo accademico si interrogava sulle ripercussioni globali della fine della storia (Fukuyama, 1992), alcuni scrittori di romanzi fantascientifici immaginavano una futuribile società distopica, nella quale l’intelligenza artificiale, espressione dell’ossimoro tra téchne e natura, avrebbe assunto i caratteri di una inumana ratio ordinatrice in perenne conflitto con il caos, incarnando quell’irriducibile dicotomia nel corpo più umano di un umano del cyborg.

Due erano i modelli di riferimento che fungevano da supporto ideologico alla concezione della futura distopia: la burocrazia socialista e la deregolamentazione capitalistica, espresse, appunto, dallo stridente contrasto fra corpo sociale e individuale, entrambi immersi nel liquido amniotico di un’inesorabile tecnofilia.

Quel modello topico del cyberspazio nell’ambito della letteratura e della cinematografia, d’altra parte, si accompagnava, negli stessi anni, alla linea di studio che, in ambito accademico, indagava la metropoli elettronica come spazio abitabile (De Kerchove, 2001) e i media come luogo di continuità fra realtà e simbolo. Come nell’assunto di Meyrowitz (1995): «gli ambienti fisici e gli ambienti dei media appartengono a un continuum e non a una dicotomia» (p. 60).

Quale sarebbero stati la fisica fondamentale e il principio ordinatore di quello spazio era intuibile. In quanto luogo al confine fra simbolico e reale, il cyberspazio era soggetto all’incontro fra la più moderna «forma di potere esercitata in virtù di un sapere» (Weber, 1968, p. 239) e il codice stesso potremmo dire il verbo dal quale quello spazio era scaturito: la burocrazia e l’algoritmo.

Burocrazia e algoritmo: i motivi dell’associazione

Una delle prospettive più interessanti, sia in ambito accademico che all’interno dei meta-discorsi dei media è, infatti, quella che vede gli algoritmi di gestione dei dati come una forma se non proprio la nuova forma della burocrazia nelle società avanzate (Visentin, 2018). Suggestione, questa, che rientra a pieno titolo fra le riflessioni più stringenti della contemporaneità, innanzitutto, in virtù di una ragione che potremmo definire narrativa.

WEBCAST
CISO as a Service: perché oggi la tua azienda non può fare a meno di un esperto di cyber security
CIO
Risorse Umane/Organizzazione

Burocrazia e algoritmo sono due termini che si riferiscono a unità culturali estremamente ricche di connotazioni contrastanti. Se la burocrazia, infatti, ci riporta a connotazioni afferenti dibattiti illustri circa la razionalità del potere e le possibili derive autoritarie (Weber, 1968; Crozier, 1969; Merton, 1949; Foucault, 1993) (oltre a rappresentare essa stessa un concetto ombrello che descrive in sé quella membrana simbolica frapposta fra l’attività del cittadino e il potere), il termine algoritmo, nel corso degli ultimi anni, è divenuto una buzzword capace di catalizzare su di sé sia le speranze per un progressivo districamento del caos tipico di ogni passaggio d’epoca, sia molte suggestioni distopiche, quasi tutte attinenti il rapporto fra individuo e macchina, sia essa sociale, politica o industriale. D’altra parte, le questioni aperte sul ruolo degli algoritmi nella società contemporanea conservano, soprattutto in Occidente, una rilevanza che va oltre la semplice pratica nel quotidiano, inserendosi nel dibattito filosofico sulle modalità attraverso cui il formalismo giuridico neokantiano, alla base dello Stato moderno (Kelsen, 1966; Bobbio, 1992), e il monopolio dell’attività legislativa da parte dell’organismo pubblico possano integrarsi senza entrare in conflitto con le regole del gioco sempre più pervasive alla base degli algoritmi di gestione delle informazioni, quasi sempre concepiti, gestiti, modificati e detenuti in maniera riservata da soggetti privati, nell’illusione che l’interesse del primo sia coerente con gli interessi dei secondi (Habermas, 1986; Berry, 2014).

Vi sono, però, altri ­– altrettanto importanti – motivi per cui burocrazia e algoritmo sono stati associati fra loro nel corso del tempo, generando una sorta di contrapposizione tra teorici della continuità (Muellerleile, Robertson 2018; Peeters, Schuilenburg 2018) e della discontinuità (Zuurmond, 1998; Aneesh, 1999).

Innanzitutto, sia l’algoritmo, sia la burocrazia concorrono a configurarsi quasi come un elemento mistico nel rapporto fra individuo e autorità pubblica o privata rappresentando una forma di rituale nella gestione del potere, in cui i soggetti coinvolti non necessariamente sono sempre consapevoli della ratio alla base del loro funzionamento. È il caso, ad esempio, degli algoritmi di gestione dei dati personali a fini commerciali (Ames, 2018). Inoltre, entrambi tendono a fungere da strumenti di legittimazione in settori produttivi sempre più numerosi (tra cui il giornalismo e i social network), operando da filtro discriminante tra forme di inclusione ed esclusione, fra ciò che è autorizzato e ciò che non lo è (Caplan, Boyd, Danah, 2018). Basti pensare, a tal fine, al vivace dibattito sviluppatosi attorno al fenomeno delle fake news (Quattrociocchi, 2016; Ferraris, 2017).

Dobbiamo anche evidenziare come – nonostante il concetto burocratico weberiano si fondi su criteri di efficienza, oggettività e razionalità, che sembrano ricalcare pedissequamente i criteri di funzionamento degli algoritmi – entrambi i fenomeni nascondano, proprio nelle pieghe del loro formalismo senza contenuto, delle sacche disfunzionali di inefficienze nelle quali vengono nutrite scelte discrezionali e arbitrarie che sfuggono a qualsivoglia verifica di razionalità (Crozier, 1969; Weizenbaum, 1976). È il caso, ad esempio, dell’algoritmo alla base del Sistema dei Crediti Sociali cinese o degli algoritmi di riconoscimento facciali ai fini di pubblica sicurezza, soggetti comunque all’eventuale opaca discrezionalità dei funzionari governativi.

In quanto strumenti depersonalizzanti e puramente formali, infatti, burocrazia e algoritmo sono e restano strumenti funzionali al potere, a prescindere dalle finalità che esso si pone nel suo esercizio. Infatti, sebbene sia forte la tentazione di riconoscere in essi un ruolo di vero e proprio principio di legittimazione dell’autorità, finiscono invece con l’operare solo in termini di mero rafforzamento del principio di legittimazione stesso. D’altronde, proprio perché contenitori vuoti, entrambi sono permeabili a differenti narrazioni, anche molto diverse fra di loro e, d’altra parte, la stessa possibilità di arbitrio strutturalmente insita nelle loro logiche di funzionamento, come accennato, funge da elemento di equilibrio e di autoconfigurazione continua che ne garantisce una proteiforme e indiscussa adattabilità.

Burocrazia, algocrazia, infocrazia

D’altra parte, è proprio in questa ambivalente contraddizione tra efficienza e disfunzione che risiede la causa del successo incontrastato degli algoritmi come metodo di controllo e gestione della società, sia nei regimi autoritari, sia nelle democrazie a capitalismo avanzato. È per questo che, secondo alcuni autori (Zuurmond, 1998; Aneesh, 1999), l’algoritmo stesso incarna non solo la continuazione, bensì proprio il superamento della burocrazia. Fu proprio in virtù di tali possibili evoluzioni che Aneesh propose il termine algocrazia (1999) come forma alternativa di potere, così come Zuurmond (1998), a sua volta, coniò il concetto di infocrazia. Parafrasando Weber (1968), si può dire che si avvertiva il timore che fosse in corso il passaggio da una gabbia di ferro a una fortezza virtuale.

Per tali autori, che potremmo definire della discontinuità, burocrazia e algoritmi, pur condividendo alcune logiche ­– come la razionalità strumentale e tecno-scientifica –presentano processi di interazione con l’individuo radicalmente opposti. Difatti, mentre nel fenomeno burocratico, per utilizzare la metafora di Crozier (1969), l’individuo è consapevole delle regole e adatta il suo comportamento a esse, procedendo, potremmo dire, per induzione, nel fenomeno algoritmico, al contrario, le regole del gioco sono arcane e possono essere solo presupposte per deduzione, esclusivamente attraverso l’osservazione delle manifestazioni particolari evinte dall’individuo nell’interazione con esse.

A tal proposito, emblematico è il ruolo di apprendimento dei comportamenti mediante la raccolta passiva dei dati tramite i microfoni e i sensori degli smartphone da parte di aziende e autorità, al fine della targettizzazione pubblicitaria o della sorveglianza della popolazione nei regimi neoautoritari.

Riassumendo, quindi, al fine di avanzare un confronto possibile tra fenomeno burocratico e algoritmico, possiamo provare a riflettere anche su due delle dinamiche più dibattute e controverse fra i fenomeni riscontrabili nell’infosfera: l’iperframmentazione e l’abbattimento dell’autorità interpretativa fattori, questi, che concorrono tra gli altri alla determinazione dei processi di postverità e riontologizzazione della realtà (Ferraris, 2017; Floridi, 2014, Ciracì, 2021). In maniera paragonabile alla burocrazia, infatti, in quanto meccanismi di ordinamento del caos, gli algoritmi rischiano di divenire essi stessi autorità interpretativa, pur essendo solo lo strumento di un potere che, con la propria narrazione, ne infonde un senso e, appunto, un’arbitrarietà. È proprio, quindi, analizzando la dimensione narrativa del rapporto fra burocrazia e algoritmo che vorremmo concludere questa breve disamina di un accostamento che meriterebbe, senza dubbio, ulteriore e più approfondita critica, con particolare riferimento alla funzione degli algoritmi come meccanismi burocratici alla base della formazione dell’agenda pubblica.

In tal senso, se volessimo impiegare come paradigma teorico la teoria del codice (Eco, 1975) potremmo paragonare burocrazia e algoritmo anche sotto la comune definizione di un testo che produce un codice di interpretazione. Ricorrendo alla metafora di Foucault (1975), entrambi possono essere, dunque, considerati dei discorsi funzionali alla riduzione dell’entropia e, quindi, della complessità della trama comunicativa della realtà (Gajduschek, 2004). L’algoritmo, in particolare, nella sua accezione di programma software ovvero di testo scritto mediante un determinato codice di programmazione si configura come indispensabile interfaccia fra essere umano e macchina, fungendo da protesi nel trattamento delle informazioni (dal sistema operativo alla gestione della rubrica, dalle applicazioni per la risposta automatica dei messaggi alla gestione dello spam). Eppure, come appunto accade per ogni codice, la riduzione di complessità, da un lato, conduce verso una più rassicurante decodifica, dall’altro, implica una necessaria riduzione delle scelte. In effetti, da questo punto di vista, ogni qualvolta l’utente utilizza il software per fare qualcosa più facilmente, baratta volentieri la propria libertà discrezionale in cambio di velocità, standardizzazione ed efficienza. È il caso, ad esempio, dei filtri di Instagram e di TikTok. La serialità dei testi, accomunati da codici omogenei, riduce l’entropia e genera una forma di prevedibilità narrativa all’interno della quale l’utente può sentirsi libero di agire, provocando in lui una forma di sicurezza e di piacere (Eco, 1964).

D’altra parte, il prosumer trasmette in Rete, ogni secondo, una quantità di dati enorme che, con il cloud computing, diviene una vera e propria tracimazione continua di un oceano di dati che si riversano dalla realtà ai supporti digitali. A questi, devono essere sommate anche tutte le altre informazioni scambiate, dalle reti aziendali a quelle di controllo dei sistemi esperti, dal flusso informativo delle content factories a quello ininterrotto che videocamere, microfoni e sensori di tutti gli smartphone sul pianeta riversano continuamente nei mainframe aziendali di Google e Facebook o in quelli statali delle centrali di raccolta dei dati. La potenza di calcolo diviene, di conseguenza, fattore necessario e strategico per trattare un volume di dati che dev’essere oltretutto anche immagazzinato.

Non a caso, la corsa ai computer quantici intrapresa da USA, Cina e loro alleati, oltre a rappresentare terreno di confronto geopolitico, si tinge talvolta anche di narrazioni mitiche che dipingono le macchine del futuro come rivoluzionarie non solo per la capacità di trattamento delle informazioni, ma anche per tutta una serie di mirabili promesse nell’evoluzione della civiltà, come l’esplorazione e la colonizzazione dello spazio, la creazione di realtà virtuali e la cura delle malattie (Caligiuri & Ruocco, 2021): l’intelligenza artificiale, appunto, diviene più umana di un umano nel garantire a chiunque ne usufruisca un futuro di benessere e di ricchezza.

Algoritmo e legittimazione del potere burocratico

Eppure, tale volume di informazioni, inedito nella storia della civiltà, quando raggiunge una delle estremità delle sinapsi – ovvero quando, attraverso il personal medium, giunge a contatto con l’essere umano – si scontra, inesorabilmente, con una strozzatura tecnica di spazio e di tempo. L’immensa capacità di immagazzinamento, organizzazione e selezione delle informazioni non può esimersi dal confrontarsi con tre risorse scarse: la limitatezza dei supporti di visualizzazione come lo schermo dello smartphone il tempo utile a disposizione per la ricezione del messaggio e la soglia di attenzione mentale dell’utente (Iotti, 2020), senza contare la stessa logica dello scrolling tattile per la lettura delle informazioni, paragonabile al meccanismo della slot machine (Mello, 2018; Zuboff, 2019), che riproduce le informazioni come un flusso di notizie gerarchicamente ordinate dalle più importanti alle più secondarie. Di conseguenza, fondamentale diviene il ruolo dell’algoritmo come, appunto, meccanismo burocratico, razionale, efficiente e arbitrario, tramite il quale selezionare, ordinare e, di conseguenza, costruire l’agenda pubblica (McCombs & Shaw, 1972).

Com’è noto, i meccanismi di salienza, attenzione e priorità per la selezione di alcune narrazioni a scapito di altre, influenzano non cosa pensare, ma attorno a cosa costruire il nostro racconto del mondo, offrendoci, al contempo, anche le strutture narrative ideologie, miti e conflitti nelle quali inserire il materiale grezzo delle nostre esperienze e mediante le quali formare la nostra costruzione sociale della realtà.

La vertiginosa e appagante riduzione di complessità dal brodo primordiale del cyberspazio allo schermo dello smartphone non può, così, non produrre anche una perdita altrettanto vertiginosa di senso nei confronti della realtà, motivo per cui il ruolo dell’algoritmo nella scelta delle tematiche predominanti assume dimensioni politiche fondamentali, tanto quanto la necessaria decodifica ed esplicitazione delle narrazioni che ne determinano il funzionamento. Se è vero, infatti, che l’algoritmo è la continuazione o il superamento della burocrazia come strumento di applicazione dell’autorità, soprattutto nell’ambito della selezione, del trattamento e della conservazione delle informazioni, dobbiamo tuttavia rilevare una differenza fondamentale tra gli oggetti in esame. Sebbene, infatti, il fenomeno burocratico possa dar vita a sacche di arbitraria e opaca applicazione di un potere che si autolegittima, comunque esso è sempre anche solo potenzialmente soggetto a visibilità pubblica ed è costruito attorno e secondo i principi di una norma giuridica che, in ogni caso, funge da supporto e controllo.

La legittimazione del potere burocratico, quindi, in un modo o nell’altro, dipende da una legittimazione pubblica e condivisa di una norma scritta o consuetudinaria che, come tale, può essere messa in discussione. Al contrario, invece, la legittimazione dell’algoritmo in quanto autorità interpretativa rassomiglia più al potere tradizionale che a quello razionale. In altre parole, essa avviene su una base fideistica e ritualistica irrazionale, che non mette mai in discussione i meccanismi del suo funzionamento, assumendo che sia la stessa forma dell’algoritmo ad assumere i caratteri della sostanza della legittimazione ciò che, appunto, è alla base dell’algocrazia di Aneesh (1999).

Conclusioni

Recentemente, alcuni avvenimenti hanno messo in risalto, almeno concettualmente, quanto sia importante giungere a una riflessione politica su tale aporia. La scelta di lasciare alla discrezione dell’IA la selezione delle notizie negli aggregatori di news di Google e Msn o l’istituzione di algoritmi di riconoscimento delle fake news da parte delle grandi multinazionali della Rete o da parte del Governo cinese nei confronti dei propri utenti o dei dissidenti a Hong Kong; oppure ancora lo stesso ruolo, tutt’ora non sufficientemente chiaro, del Governo cinese nell’acquisto di quote di partecipazione in importanti content factories occidentali: sono solo alcuni dei sintomi di un equivoco che confonde uno strumento formale per una sorta di divinità meccanica superumana a cui affidarsi per trovare sollievo dal caos, senza l’acuta consapevolezza che, dietro ogni divinità si cela un mito, dietro ogni mito una narrazione e dietro ogni narrazione, inevitabilmente, un narratore. Che esso sia più o meno collettivo e che quella narrazione possa definire compiutamente la natura del rapporto fra le nostre vite, la macchina e la realtà, senza che questo implichi anche una riflessione sul ruolo dell’autorità, resta una questione aperta.

Bibliografia

Ames M. G. (2018). Deconstructing the algorithmic sublime. In Big Data & Society, 5(1). doi.org/10.1177/2053951718779194

Aneesh A. (2009). Global Labor: Algocratic Modes of Organization. In Sociological Theory, 27(4): 347-370

Berry D. M. (2014). Critical theory and the digital. New York: Bloomsbury.

Bobbio N. (1992). Diritto e potere. Saggi su Kelsen. Napoli: Edizioni Scientifiche Italiane.

Eco U. (1964). Apocalittici e integrati. Comunicazioni di massa e teorie della cultura di massa. Milano: Bompiani.

Eco U. (1975). Trattato di semiotica generale. Milano: Bompiani.

Caligiuri M., Ruocco L. (2021). Quantum Intelligence. Le nuove frontiere dell’informazione per Stati, aziende e persone. Catanzaro: Rubettino Editore.

Caplan R. & Boyd D. (2018). Isomorphism through algorithms: Institutional dependencies in the case of Facebook. In Big Data & Society, 5(1): 1-12.

Ciracì F. (2021). Per una teoria critica del digitale: fake-news e postverità alla luce della logica della verosimiglianza. In F. Ciracì, Fedriga R. & Marras C. Filosofia digitale. Mimesis: 87-112.

Crozier M. (1969). Il fenomeno burocratico. Milano: Etas Kompass.

De Kerckove D. (2001). L’Architettura dell’Intelligenza. Roma: Testo&Immagine.

Ferraris M. (2017). Postverità e altri enigmi. Bologna: Il mulino.

Floridi L. (2014). The Fourth Revolution. How the infosphere is reshaping human reality. Oxford: Oxford University Press.

Foucault M. (1975). Surveiller et punir. Naissance de la prison. Parigi: Editions Gallimard; trad.it. (2014). Sorvegliare e punire. Nascita della prigione, Torino: Giulio Einaudi Editore.

Fukuyama F. (1992). La fine della storia e l’ultimo uomo. Milano: Rizzoli.

Gajduschek, G. (2003). Bureaucracy: Is it Efficient? Is it not? Is that the Question? Uncertainty Reduction: an Ignored Element of Bureaucratic Rationality. In Administration & Society, 34(6): 700-723.

Habermas, J. (1986). Teoria dell’agire comunicativo. Bologna: Il Mulino.

Iotti L., 8 secondi. Viaggio nell’era della distrazione, 2020, Milano: Il Saggiatore.

Kelsen H. (1966). I fondamenti della democrazia e altri saggi, Bologna: Il Mulino.

Mc Combs M. & Shaw D. (1972), La funzione di agenda setting dei mass media. In Bentivegna S., Mediare la realtà. Mass media, sistema politico e opinione pubblica, (1994), Milano: Franco Angeli: 61-73.

Mello F. (2018). Il lato oscuro di Facebook. Reggio Emilia: Imprimatur.

Merton R.K. (1949). Social Theory and Social Structure. Glengoe: Free Press; trad. it. (1966) Teoria e struttura sociale. Bologna: Il Mulino.

Meyrowitz J. (1995). Oltre il senso del luogo: come i media elettronici influenzano il comportamento sociale, Bologna: Baskerville.

Muellerleile C. & Robertson S. (2018). Digital Weberianism: Bureaucracy, Information and the Techno-rationality of Neoliberal Capitalism. In Indiana Journal of Global Legal Studies, 25(1): 187-216.

Peeters R. & Schuilenburg M. (2018). Machine justice: Governing security through the bureaucracy of algorithms. In Information Polity, 23(3): 267-280.

Quattrociocchi W. & Vicini A. (2016). Misinformation: Guida alla società dell’informazione e della credulità. Milano: Franco Angeli.

Visentin C. (2019). Il potere razionale degli algoritmi tra burocrazia e nuovi idealtipi. In The Lab’s Quarterly, 4: 47-72.

Weber M. (1922). Wirtschaft und Gesellschaft. Mohr: Tübingen; trad.it. (1968). Economia e società. Milano: Edizioni di Comunità.

Weber M. (1905). Die protestantische Ethik und der Geist des Kapitalismus. Francoforte sul Meno: Lichtblau & Weiß Herausgeber; trad. it. (2014) L’etica protestante e lo spirito del capitalismo. Milano. Rizzoli.

Weizenbaum J. (1976). Computer power and human reason: from judgment to calculation. San Francisco: W. H. Freeman.

Zuboff S., (2019). Il capitalismo della sorveglianza. Il futuro dell’umanità nell’era dei nuovi poteri. Roma: Luiss University Press.

Zuurmond A. (1994). De infocratie: een theoretische en empirische heroriëntatie op Weber’s ideaaltype in het informatietijdperk. Den Haag: Phaedrus.

Zuurmond A. (1998). From Bureaucracy to Infocracy: Are Democratic Institutions Lagging Behind? In Public Administration in an Information Age: A Handbook. Amsterdam: IOS Press: 259-271.

WHITEPAPER
Come raggiungere il successo? Investimenti in tecnologia, resilienza e nuovi processi
CIO
Digital Transformation
@RIPRODUZIONE RISERVATA

Articolo 1 di 4