L’imprevedibile e poderosa diffusione dell’Intelligenza Artificiale ha aperto una frattura teorica profonda all’interno del dibattito scientifico internazionale.
Nel marzo 2023, la diffusione della lettera aperta promossa dal Future of Life Institute, sottoscritta da figure apicali dell’imprenditoria digitale e della ricerca informatica avanzata, ha segnato una svolta epocale: per la prima volta nella storia industriale contemporanea, gli stessi promotori del paradigma tecnologico dominante hanno sollecitato una moratoria istituzionale sulle possibili criticità derivanti da un evidente deficit di controllo sulla sua evoluzione.
In questo articolo si analizzano le sottostanti dinamiche di potere, rischio e legittimazione, intersecando la sociologia con l’analisi politico-economica del capitalismo delle piattaforme. Tale unione evidenzia come la narrazione del “rischio esistenziale” e della perdita del controllo sociotecnico non costituisca soltanto una risposta etica all’opacità dei sistemi, ma rappresenti un dispositivo strategico finalizzato alla rinegoziazione dell’egemonia di mercato e alla chiusura oligarchica dello spazio di normazione.
Indice degli argomenti
La perdita di controllo dell’intelligenza artificiale nel 2023
Nel marzo del 2023, la pubblicazione del documento intitolato Pause Giant AI Experiments, formulato sotto l’egida del Future of Life Institute, ha introdotto un elemento di rottura senza precedenti nella storia delle politiche tecnologiche moderne. La richiesta formale di sospendere per almeno sei mesi l’addestramento di architetture neurali di potenza superiore a GPT-4 non è giunta da movimenti di contestazione dal basso o da frange tecnofobiche, bensì dal cuore pulsante del capitalismo informazionale: scienziati computazionali di fama mondiale, investitori di ventura e dirigenti delle multinazionali della Silicon Valley.
La spiegazione ufficiale contenuta nel testo evocava la minaccia imminente di una perdita irreversibile del controllo umano sulle infrastrutture cognitive e informative della società civile. Tuttavia, una lettura rigorosamente sociologica del fenomeno impone di superare la superficie delle motivazioni etiche o filantropiche. Come l’analisi dei sistemi tecnologici ha ampiamente documentato nell’arco degli ultimi decenni, la traiettoria dell’innovazione non risponde mai a una necessità interna alla materia o alla pura efficienza ingegneristica, ma si configura sempre come il prodotto provvisorio di negoziazioni sociali, asimmetrie di potere e costruzioni simboliche (Hughes, 1983; Bijker, Hughes e Pinch, 1987).
Moratoria e auto-limitazione dell’élite tecnologica
Il paradosso espresso dalla petizione del 2023 risiede nell’atto di auto-limitazione rivendicato dall’élite promotrice della digitalizzazione globale.
Per comprendere questa apparente contraddizione, è necessario analizzare il fenomeno attraverso tre direttrici teoriche fondamentali tra loro interconnesse. In primo luogo, la sociologia del rischio (Beck, 1986; Perrow, 1984), indispensabile per decostruire la percezione di inattaccabilità delle grandi reti infrastrutturali e mostrare come l’incontrollabilità diventi un tratto strutturale dei sistemi ad alta complessità.
In secondo luogo, la sociologia critica del capitalismo digitale (Srnicek, 2016; Zuboff, 2019), cruciale per smontare la retorica dell’allarme catastrofico e rivelare le logiche politico-economiche di monopolizzazione del mercato. Infine, le ricerche e gli studi di Winner (1980), che permettono di ridefinire il concetto di “perdita di controllo” non come una fatalità probabilistica, ma come una precisa scelta di delegazione del potere decisionale a dispositivi privi di legittimazione democratica.
Il rischio algoritmico nei sistemi fuori controllo
L’interpretazione delle ansie manifestate dai leader di settore richiede il ricorso al quadro concettuale elaborato da Ulrich Beck nel suo celebre studio sulla modernizzazione riflessiva (Beck, 1986). Nel passaggio dalla società industriale classica alla società del rischio tardo-moderna, la produzione di ricchezza viene progressivamente affiancata, e talvolta sovrastata, dalla produzione sociale di minacce tecnologiche.
Queste ultime si distinguono dai pericoli del passato per la portata sistemica, per la delocalizzazione spaziale e soprattutto per la loro incalcolabilità tramite i tradizionali strumenti a disposizione. L’intelligenza artificiale rappresenta il punto di arrivo di questo processo.
Charles Perrow (1984), nel suo lavoro sugli incidenti normali all’interno di sistemi complessi caratterizzati da un forte accoppiamento interattivo (tight coupling), ha evidenziato come la presenza di eventi imprevisti, o di comportamenti emergenti, non costituisce un’anomalia visibile, ma rappresenta una proprietà intrinseca e inevitabile dell’architettura stessa. In questo senso la sostituzione della logica deterministica, che caratterizza la programmazione tradizionale, con algoritmi probabilistici tecnologicamente avanzati trasforma l’output in un risultato poco trasparente (Pasquale, 2015).
Allineamento, complessità e “effetto juggernaut”
Altra questione riguarda Il cosiddetto “problema dell’allineamento” (alignment problem), spesso citato per indicare la difficoltà di subordinare le decisioni della macchina alle intenzioni umane (Bostrom, 2014), che rappresenta la traduzione tecnica di una classica istanza sociologica ossia lo sforzo di mantenere l’ordine sociale in condizioni di elevata complessità (Luhmann, 1984): quando i leader ammettono la possibilità di perdere il controllo tecnologico, registrano empiricamente l’impossibilità di governare una struttura la cui capacità di elaborazione ha superato la velocità dei processi di assimilazione, socioculturale e istituzionale, si genera così quello che Anthony Giddens (1990) definiva l'”effetto juggernaut” dove una macchina molto potente, una volta attivata, rischia di sottrarsi alla guida degli stessi attori che l’hanno concepita e finanziata.
Moratoria sull’IA e strategie di controllo del mercato
Altro aspetto fondamentale del dibattito sul tema attiene all’uso politico-ideologico, dell’allarme tecnologico, perchè l’appello a fermare lo sviluppo dell’intelligenza artificiale si colloca all’interno di un preciso scenario caratterizzato della competizione spietata alla base del capitalismo delle piattaforme (Srnicek, 2016).
In questo senso la teoria della “chiusura sociale (soziale Schließung) di Max Weber (1922) appare adatta a descrivere la situazione, perché spiega come i gruppi dominanti che controllano determinate risorse, economiche o simboliche, tendano a erigere barriere, legali o burocratiche, finalizzate a impedire l’ingresso di nuovi concorrenti in campo. In questa prospettiva, la richiesta di una moratoria globale promossa dagli attori industriali, soggetti che hanno già sostenuto i costi di addestramento delle architetture di base come GPT-4, si rivela una raffinata manovra di conservazione egemonica.
Il rischio esistenziale oscura le criticità sociali
Nel contesto del capitalismo della sorveglianza (Zuboff, 2019), il valore strategico di una tecnologia risiede nella sua efficienza operativa, ma, soprattutto, nella capacità di accentrare l’estrazione dei dati e il controllo dei comportamenti: la narrazione del “rischio esistenziale” (X-risk), che devia l’attenzione pubblica verso scenari futuri distopici come l’estinzione dell’umanità o l’avvento di un’intelligenza generale autonoma, ottiene l’effetto ideologico di oscurare le criticità sociali già in atto nell’immediato.
Tra queste figurano il drenaggio e l’espropriazione del lavoro intellettuale non retribuito, la riproduzione su scala industriale di sbilanciamenti discriminatori all’interno dei dati di addestramento e la drastica precarizzazione del lavoro cognitivo.
Licenze e barriere per laboratori e open source
L’invocazione di un intervento regolatorio statale basato su licenze d’uso, requisiti di sicurezza dai costi proibitivi e monitoraggio stringente dell’hardware avanzato serve di fatto a istituzionalizzare un regime di monopolio oligopolistico. Sotto il pretesto di salvare l’umanità da un’IA incontrollabile, le grandi multinazionali tecnologiche spingono per la creazione di una cornice normativa che sbarri l’accesso ai laboratori indipendenti, alle comunità open source e alle istituzioni di ricerca pubbliche, consolidando il proprio potere d’intesa con gli apparati di sicurezza degli Stati nazionali (Morozov, 2013).
Sovranità democratica e controllo dell’intelligenza artificiale
Al di là delle strumentalizzazioni di mercato, il pericolo di perdere il controllo sulla tecnologia rimane un vulnus reale, a patto di intenderlo non come la ribellione fantascientifica della macchina, ma come il progressivo prosciugamento della sovranità democratica.
Questa erosione del controllo sociotecnico si dipana lungo tre direttrici fondamentali. In primo luogo, si assiste alla scomparsa dell’accountability istituzionale dovuta alla crescente opacità epistematica dei modelli a “scatola nera” (Pasquale, 2015). Nella misura in cui processi decisionali, decisivi per la vita degli individui, dall’erogazione del credito alle diagnosi sanitarie, fino all’amministrazione della giustizia e alla valutazione delle prestazioni lavorative, vengono delegati ad algoritmi predittivi non ricostruibili nella loro logica interna, viene meno la possibilità stessa della contestazione politica e del diritto di difesa civile.
Il deskilling della forza lavoro qualificata
In secondo luogo, si innesca una nuova dinamica di deskilling avanzato che colpisce la forza lavoro altamente qualificata (Braverman, 1974). La cessione continua delle funzioni analitiche, sintetiche e creative alle infrastrutture algoritmiche determina una deprivazione progressiva delle competenze umane operative.
Dal momento che la conoscenza metodologica risiede unicamente nell’architettura proprietaria fornita dalle piattaforme, la società perde la capacità materiale di supervisionare criticamente gli output della macchina o di intervenire in presenza di errori sistematici.
L’accentramento del potere nelle infrastrutture dell’IA
Infine, si consolida la natura intrinsecamente autoritaria della struttura tecnologica. Come argomentato da Langdon Winner (1980), le tecnologie non sono politicamente neutrali, alcune architetture richiedono o favoriscono strutturalmente specifiche forme di potere sociale.
L’intelligenza artificiale generativa di ultima generazione, richiedendo un’imponente concentrazione di capitale, enormi risorse energetiche e data center di proporzioni globali, tende intrinsecamente verso un modello di organizzazione centralizzato ed estrattivo. Tale processo trasferisce la capacità di definire ciò che è reale, attendibile o vero dalle istituzioni pubbliche tradizionali a una cerchia ristretta di burocrazie private non soggette a nessun tipo di controllo.
I leader dell’IA e l’autodisciplina sul controllo tecnologico
Il dibattito sulla necessità di una regolamentazione ha trovato un’ulteriore quanto eclatante conferma nelle recenti prese di posizione pubbliche dei principali leader dell’industria globale dell’intelligenza artificiale. L’esplicito appello del CEO di Anthropic, Dario Amodei, volto a promuovere una strategia di rallentamento coordinato per allineare l’avanzamento dei modelli alle effettive capacità di audit e sicurezza, ha incassato l’inatteso quanto significativo sostegno di figure storicamente rivali come Sam Altman ed Elon Musk.
Questa convergenza d’intenti tra i vertici di Anthropic, OpenAI e xAI rappresenta un passaggio sociologico cruciale: se da un lato attesta il raggiungimento di una soglia critico-operativa in cui i rischi di autonomia indotta e opacità sistemica paventano esiti difficilmente governabili per gli stessi sviluppatori (Pasquale, 2015), dall’altro riflette una dinamica di autoconservazione e chiusura del settore (Weber, 1922).
Audit, sicurezza e stabilizzazione del mercato
La convergenza verso la richiesta di valutazioni indipendenti e protocolli di accesso condivisi risponde all’esigenza di stabilizzare il mercato, evitando sia incidenti sistemici capaci di intaccare la fiducia pubblica, sia l’imposizione dall’alto di interventi legislativi eteronomi e punitivi. Si delinea così un tentativo di autodisciplinamento oligarchico in cui l’allarme per la sicurezza e il richiamo alla responsabilità etica si intrecciano indissolubilmente con la difesa della leadership industriale e la gestione della complessità sociotecnica (Zuboff, 2019).
Riprendere il controllo dell’intelligenza artificiale
L’appello dei leader di settore a sospendere la corsa agli esperimenti algoritmici si rivela in tutta la sua complessità. Non siamo di fronte a un’improvvisa illuminazione etica, né a un banale stratagemma pubblicitario. La richiesta di moratoria costituisce piuttosto il sintomo manifesto di una crisi di governance strutturale della tarda modernità.
La velocità di autoriferimento dei sistemi tecnici ha superato il ritmo di risposta e regolazione delle istituzioni democratiche, producendo una profonda frattura all’interno dell’ordine sociale. L’alternativa dicotomica tra l’accettazione acritica dell’accelerazione algoritmica da un lato e l’adesione a un neoluddismo privo di sbocchi politici dall’altro rappresenta un’estrema banalizzazione, perché la vera questione non risiede nel fermare l’evoluzione della tecnica in quanto tale, ma nel risalire alla radice del modello economico sotteso a essa.
La perdita del controllo tecnologico si palesa così come il risultato diretto di una scelta politica, quella di sottomettere lo sviluppo della conoscenza e degli strumenti cognitivi alle rigide dinamiche dell’accumulazione privata e della competizione geopolitica.
Deprivatizzare la governance dell’intelligenza artificiale
Superare la paralisi determinata dal discorso sul “rischio esistenziale” richiede un’inversione di paradigma che la sociologia critica definisce come la ricostruzione della sovranità sociotecnica (Feenberg, 2002). Ciò comporta innanzitutto la deprivatizzazione dei luoghi in cui si decide la direzione dello sviluppo tecnologico.
La governance dell’intelligenza artificiale non può essere delegata agli stessi attori industriali che hanno generato le condizioni dell’opacità attuale, né può risolversi nella creazione di organi di controllo burocratici formati da sole élite tecnocratiche.
Infrastrutture pubbliche per dati e ricerca
In secondo luogo, si rende indispensabile l’investimento in infrastrutture pubbliche di calcolo e di ricerca, capaci di affrancare lo sviluppo di tali tecnologie dalla logica della monetizzazione dei dati di sorveglianza.
Solo la presenza di reti cibernetiche pubbliche, trasparenti e soggette al vaglio della comunità scientifica, delle istituzioni e della società civile può garantire la tracciabilità delle fonti, la neutralità dei dati e l’allineamento dei sistemi a valori condivisi di equità e giustizia sociale.
Il primato della decisione politica democratica
Infine, occorre riaffermare il primato della decisione politica democratica sui tempi e sui modi dell’automazione.
Se anche i leader di settore paventano tali rischi è necessario che la tecnologia ritorni a essere considerata uno strumento subordinato ai bisogni di emancipazione del corpo sociale, non un’entità autonoma, egoriferita e sacralizzata a cui l’umano è tenuto ad adattarsi passivamente. Restituire centralità alla negoziazione democratica significa stabilire collettivamente quali settori dell’esistenza antropica debbano essere preservati dalla delega algoritmica, garantendo che la conoscenza rimanga una risorsa comune accessibile, criticabile e governabile.
Soltanto attraverso questa profonda ristrutturazione delle relazioni di potere sociotecniche sarà possibile scongiurare il rischio reale della modernità avanzata: non l’avvento di una macchina pensante che domina l’uomo, ma l’asservimento volontario dell’uomo a una macchina a cui ha deliberatamente ceduto le chiavi di controllo.
Bibliografia sul controllo dell’intelligenza artificiale
- Beck, U. (1986). Risikogesellschaft: auf dem weg in eine andere moderne. Frankfurt am Main: Suhrkamp Verlag.
- Bijker, W. E., Hughes, T. P., Pinch, T. J. (A cura di). (1987). The social construction of technological systems: new directions in the sociology and history of technology. Cambridge (MA): MIT Press.
- Bostrom, N. (2014). Superintelligence: paths, dangers, strategies. Oxford: Oxford University Press.
- Braverman, H. (1974). Labor and monopoly capital: the degradation of work in the twentieth century. New York: Monthly Review Press.
- Feenberg, A. (2002). Transforming technology: a critical theory revisited. Oxford: Oxford University Press.
- Giddens, A. (1990). The consequences of modernity. Stanford: Stanford University Press.
- Hughes, T. P. (1983). Networks of power: electrification in western society, 1880–1930. Baltimore: Johns Hopkins University Press.
- Jasanoff, S. (A cura di). (2004). States of knowledge: The co-production of science and social order. London: Routledge.
- Luhmann, N. (1984). Soziale systeme: grundriß einer allgemeinen theorie. Frankfurt am Main: Suhrkamp Verlag.
- Morozov, E. (2013). To save everything, click here: the folly of technological solutionism. New York: PublicAffairs.
- Pasquale, F. (2015). The Black box society: the secret algorithms that control money and information. Cambridge (MA): Harvard University Press.
- Perrow, C. (1984). Normal Accidents: living with high-risk technologies. New York: Basic Books.
- Srnicek, N. (2016). Platform capitalism. Cambridge: Polity Press.
- Weber, M. (1922- ed.1972). Wirtschaft und gesellschaft. Tübingen: J.C.B. Mohr (Paul Siebeck).
- Winner, L. (1980). Do artifacts have politics? Modern technology: problem or opportunity? Daedalus, 109(1), 121-136.
- Zuboff, S. (2019). The age of surveillance capitalism: the fight for a human future at the new frontier of power. New York: PublicAffairs.
Partecipa alla community