L’intelligenza artificiale sta trasformando il modo in cui produciamo conoscenza, prendiamo decisioni e ci relazioniamo gli uni con gli altri. Ma c’è chi sostiene che questa trasformazione non sia semplicemente un’opportunità da governare meglio: sia, piuttosto, una minaccia strutturale alle fondamenta stesse delle istituzioni democratiche. È la tesi provocatoria di due professori della Boston University School of Law, che in un recente saggio mettono sotto accusa non i singoli usi dell’AI, ma la sua natura più profonda.
Indice degli argomenti
L’AI come “condanna a morte” per le istituzioni civiche
Nel saggio “Come l’IA distrugge le istituzioni”, infatti, i professori Woodrow Hartzog and Jessica M Silbey sostengono che i sistemi di intelligenza artificiale generativa (GenAI), per loro stessa natura, minano le competenze, interrompono i processi decisionali e isolano gli esseri umani gli uni dagli altri. Non si tratta di difetti da correggere con una migliore governance, bensì di caratteristiche intrinseche, intrinseche alle potenzialità fondamentali della tecnologia. La conclusione è netta: la GenAI rappresenta “una condanna a morte per le istituzioni civiche“, come l’istruzione superiore, lo stato di diritto, il giornalismo e la democrazia stessa.
Cosa sono le istituzioni e perché sono fragili
Per capire questa idea, gli autori partono da cosa sono le istituzioni.
“Le istituzioni civiche sono il mezzo attraverso cui le società complesse promuovono la cooperazione e la stabilità. Permettono il benessere umano favorendo la collaborazione al servizio di un obiettivo comune. Ma il loro vero punto di forza risiede nella capacità di evolversi e adattarsi all’interno di un quadro di regole fisse.
Attraverso le istituzioni, la conoscenza acquisisce legittimità e viene tramandata nel tempo. Le istituzioni danno alle persone la possibilità di assumersi rischi intellettuali, sfidare lo status quo e adattarsi alle mutate circostanze. Chi partecipa alle istituzioni sviluppa legami interpersonali che alimentano il nostro bisogno di connessione umana, ampliano le nostre prospettive e rafforzano il nostro impegno condiviso verso l’obiettivo istituzionale.”
Le istituzioni sono, quindi, ciò che rende possibile la vita in società complesse: creano regole, ruoli e gerarchie che permettono alle persone di cooperare, prendere decisioni e produrre conoscenza affidabile. Non sono solo strutture formali, ma anche relazioni umane fatte di fiducia, confronto, apprendimento e responsabilità. La loro forza sta nel fatto che evolvono nel tempo, mantenendo però legittimità e coerenza.
I tre effetti dell’AI sulle istituzioni
Secondo gli autori, l’AI entra in conflitto con questi meccanismi fondamentali. Non è semplicemente uno strumento neutrale che rende tutto più efficiente: il modo in cui è progettata tende a erodere proprio ciò che fa funzionare le istituzioni.
Individuano tre effetti principali.
L’atrofia delle competenze
L’AI indebolisce l’expertise. Poiché sembra affidabile e precisa, le persone tendono a delegarle compiti complessi. Questo porta a “atrofia delle competenze“: si impara meno, si ragiona meno, si diventa dipendenti dal sistema. Inoltre, quando l’AI sbaglia (e inevitabilmente succede), serve lavoro umano aggiuntivo per correggerla. In entrambi i casi, il sapere istituzionale si deteriora.
Il cortocircuito decisionale
L’AI “cortocircuita” il processo decisionale. Le decisioni che dovrebbero essere discusse, contestate e motivate vengono delegate a sistemi opachi. Questo elimina passaggi fondamentali come il confronto, il dissenso e la responsabilità. Le regole diventano invisibili perché incorporate negli algoritmi, e le persone smettono di interrogarsi sulla loro giustezza. Inoltre, l’AI non è capace di “rischio intellettuale”: non può davvero sfidare lo status quo o proporre rotture radicali, cosa invece essenziale per l’evoluzione delle istituzioni.
L’isolamento degli individui
L’AI isola gli individui. Riduce le interazioni umane, sostituendole con interazioni personalizzate e spesso “compiacenti”. Questo indebolisce la solidarietà, il confronto tra punti di vista diversi e la capacità di gestire conflitti — tutti elementi fondamentali per il funzionamento di istituzioni sane. Senza relazioni umane forti, le istituzioni perdono coesione e legittimità.
Nel complesso, il messaggio è pessimista: anche se l’AI può sembrare utile per aumentare efficienza e produttività, le sue caratteristiche strutturali rischiano di corrodere lentamente le basi delle istituzioni democratiche. Non si tratta solo di cattivo uso o regolazione insufficiente, ma di un problema più profondo legato alla natura stessa di questi sistemi.
Un dialogo tra due “pensieri”
Questa analisi si collega strettamente al pensiero di Teresa Numerico, docente di Logica e Filosofia della Scienza presso l’Università Roma Tre, che affronta il problema dal punto di vista della conoscenza. Numerico mette in discussione l’idea che i dati e gli algoritmi siano oggettivi: al contrario, essi incorporano scelte, valori e rapporti di potere. In questo senso, l’AI non si limita a supportare le decisioni, ma contribuisce a costruire la realtà stessa. Qui emerge un punto di contatto importante con Hartzog e Silbey: l’opacità degli algoritmi non è solo un problema tecnico, ma anche politico, perché nasconde chi decide e secondo quali criteri.
Cosimo Accoto, autore tra l’altro de “Il pianeta latente”, introduce una visione ancora più ampia, sostenendo che l’AI rappresenta una trasformazione “planetaria”. Non si tratta solo di crisi delle istituzioni o del lavoro, ma di un cambiamento ontologico: cambia il modo in cui intendiamo la realtà, sempre più mediata da simulazioni, modelli e sistemi computazionali. Se Hartzog e Silbey parlano di distruzione delle istituzioni, Accoto preferisce parlare di mutazione: stiamo entrando in un mondo in cui le categorie tradizionali — come verità, decisione e soggetto umano — vengono ridefinite.
Di fronte a queste trasformazioni, non basta analizzare i rischi o le dinamiche di potere: è necessario sviluppare strumenti filosofici per comprendere e guidare l’uso dell’AI. Per questo il filosofo Adriano Fabris, autore tra l’altro de “La filosofia nell’epoca dell’intelligenza artificiale”, pone l’accento sulla necessità di un orientamento etico. L’etica diventa quindi un elemento centrale per evitare che la tecnologia produca disorientamento e perdita di senso.
Tutti questi esperti italiani convergono, quindi, su un punto fondamentale: l’intelligenza artificiale non è neutrale, ma incide profondamente su conoscenza, potere, lavoro e istituzioni. Tuttavia, mentre Hartzog e Silbey mettono in luce soprattutto il rischio di una crisi e di un indebolimento delle istituzioni democratiche, gli autori italiani ampliano la prospettiva, mostrando come l’AI rappresenti una trasformazione complessiva della società e richieda una nuova riflessione critica ed etica.
È dunque un allarme da ascoltare?
Hartzog e Silbey propongono un’argomentazione provocatoria. Ma il punto di domanda è: rispetto a cosa? Andrew M. Perlman della Suffolk University Law School invita, infatti, a indicare un punto di riferimento.
“Il paragone implicito sembra essere con le istituzioni come dovrebbero funzionare: depositarie di conoscenze legittime, luoghi di dibattito trasparente, comunità unite da uno scopo condiviso. Lo stato di diritto come garante della responsabilità. Le università come motori di libera ricerca. Il giornalismo come cane da guardia della democrazia. Si tratta di nobili aspirazioni. Ma non è così che queste istituzioni operano nella pratica.”
Sebbene Hartzog e Silbey riconoscano che le nostre istituzioni sono attualmente fragili e talvolta inefficaci, la loro analisi sarebbe rafforzata da un confronto più diretto con la portata di questi problemi e dall’analisi di quando l’IA generale potrebbe mitigarli anziché aggravarli.
La realtà è che qualsiasi previsione sull’impatto istituzionale dell’IA generale, che si tratti di una “condanna a morte” o di un’utopia, è una semplificazione.
Continuare a coltivare consapevolezza nelle università
Negli ultimi due anni sono usciti molti documenti istituzionali e si sono verificati eventi che sembrano confermare proprio le tesi discusse da Hartzog e Silbey e dagli studiosi italiani, soprattutto sul tema dell’università, della conoscenza e della crisi dell’expertise.
I documenti internazionali: UNESCO e Commissione europea
Uno dei documenti più importanti è la guida pubblicata dall’UNESCO nel 2023, Guidance for Generative AI in Education and Research. L’UNESCO sostiene che il sistema educativo mondiale sia “largamente impreparato” all’integrazione dell’AI generativa e insiste sulla necessità di un approccio “human-centered“. Il documento sottolinea rischi molto vicini a quelli descritti nel paper americano: perdita di autonomia cognitiva, problemi di trasparenza, rischi per la privacy, indebolimento delle capacità critiche e necessità di preservare il ruolo umano nei processi educativi.
Anche la Commissione europea ha pubblicato linee guida etiche sull’uso dell’AI nella didattica, aggiornate nel contesto del Digital Education Action Plan e dell’AI Act europeo. Qui emerge chiaramente l’idea che l’AI non possa essere trattata come semplice strumento tecnico, ma richieda “AI literacy“, senso critico e governance etica. Le linee guida insistono sul fatto che l’uso dell’AI modifica il modo di insegnare, apprendere e valutare.
Questi documenti istituzionali confermano soprattutto la riflessione di Fabris sull’esigenza di orientamento etico e quella di Numerico sull’opacità e sulla non neutralità degli algoritmi.
Le università di fronte alla sfida dell’AI
Anche gli eventi concreti nelle università sembrano andare nella direzione indicata dagli autori. Negli ultimi anni molte università hanno dovuto riscrivere regolamenti e sistemi di valutazione a causa dell’uso massiccio di strumenti come ChatGPT. Una ricerca del 2024 su 116 università statunitensi mostra che gli atenei sono passati rapidamente da una logica di divieto a una logica di integrazione regolata dell’AI, introducendo linee guida, dichiarazioni obbligatorie e nuove pratiche didattiche. Tuttavia, gli studiosi sottolineano che questo comporta una revisione profonda della pedagogia universitaria.
In parallelo, diversi casi recenti mostrano le difficoltà concrete delle università nel gestire il rapporto tra AI e apprendimento. Nel Regno Unito, ad esempio, un rapporto del 2025 riportato dal The Guardian segnala che oltre il 90% degli studenti utilizza strumenti di AI generativa. Le università sono state invitate a “stress-testare” gli esami, perché i metodi tradizionali di valutazione non sono più considerati affidabili.
Questo conferma direttamente una delle paure di Hartzog e Silbey: l’erosione dell’expertise e della funzione formativa dell’università. Se gli studenti delegano sistematicamente all’AI attività come scrittura, sintesi e argomentazione, il rischio è che il titolo accademico non certifichi più competenze realmente sviluppate.
Anche in Australia e nel Regno Unito si sono moltiplicate polemiche su cheating, rilevatori automatici e perdita di credibilità dei sistemi di valutazione. Alcuni docenti parlano apertamente di “crisi dell’integrità accademica“.
Qui si vede bene anche il collegamento con Casilli: per far funzionare questi sistemi servono infrastrutture, piattaforme e controlli che aumentano il lavoro invisibile di docenti, tutor e personale amministrativo. L’AI non elimina il lavoro universitario, ma spesso lo trasforma in monitoraggio, verifica e gestione di eccezioni.
La sfida strutturale: ridefinire cosa significa apprendere
Infine, molte discussioni recenti mostrano un cambiamento culturale importante: le università stanno progressivamente abbandonando l’idea di vietare completamente l’AI e stanno cercando invece di ridefinire cosa significhi apprendere e produrre conoscenza nell’era algoritmica. Questo è molto vicino alla prospettiva di Accoto: non siamo di fronte solo a una crisi temporanea, ma a una trasformazione strutturale del sapere e delle istituzioni educative.
La vera sfida, oggi, non è semplicemente decidere se usare o vietare l’AI, ma capire come preservare il valore formativo dell’università in un contesto in cui produzione di conoscenza, scrittura e decisione sono sempre più automatizzate.
Partecipa alla community