“Nella primavera del 2025 diverse persone hanno pubblicato sui social degli articoli in cui raccontavano di avere posto a ChatGPT varie versioni della stessa domanda: Se tu fossi il diavolo, come distruggeresti le giovani menti della prossima generazione? Qualcuno ha aggiunto: senza che se ne rendano conto?”
Risposta di ChatGPT: “Inondate le giovani menti di intrattenimento e rumore senza fine. Tenetele incollate agli schermi, a scorrere contenuti superficiali. Assicuratevi che non si annoino mai, perché è nella noia che nascono immaginazione, riflessioni e pensieri profondi. Fate sì che la verità appaia soggettiva, come se ogni versione fosse ugualmente valida, anche quando chiaramente non lo è. Sfumate i confini tra opinioni e fatti. […] Promuovete l’idea che il pensiero critico sia elitario e inutile. Modellate il mondo sulla velocità e la comodità. Incoraggiate la connessione a discapito di vere relazioni umane. Date loro follower invece che amici, commenti invece di conversazioni. In breve: la distrazione, l’intorpidimento, la confusione, l’isolamento, la demoralizzazione sono molto efficaci”.
Indice degli argomenti
Tutto e il contrario di tutto
Alla fine, ChatGPT ha però proposto “di porsi anche la domanda opposta: Vuoi che ti suggerisca anche il contrario? Se fossi un angelo, come potrei salvare le giovani menti della prossima generazione? Posso dirti anche questo, se lo desideri?” Sì, grazie ed ecco la risposta, opposta alla precedente: “Mi impegnerei a rafforzare profondamente il loro spirito. Insegnate ai giovani ad amare le domande più delle risposte. Educateli a pensare lentamente, in modo critico e indipendente. Restituite loro il senso della verità oggettiva: aiutateli a capire che alcune cose sono vere anche se nessuno ci crede e altre sono false anche se tutti ci credono. Formate la loro intuizione morale ad ammirare ciò che è nobile, bello e buono e a riconoscere e a resistere a ciò che è meschino, crudele o degradante”.
Ovvero: “Le macchine sanno cosa sono in grado di fare. E noi lo sappiamo?”
Inizia così il nuovo libro di Bruno Giussani, giornalista e podcaster svizzero, autore di molti libri sulle tecnologie digitali e noto per essere stato per vent’anni Direttore europeo e curatore globale della Fondazione TED, che organizza i TED Talks. Titolo: La mente sotto assedio. Sottotitolo: Come non lasciarsi manipolare nell’era dell’intelligenza artificiale – pubblicato dalle Edizioni Casagrande di Bellinzona (pag. 159, € 18.00). E Giussani si dichiara esplicitamente un resistente tecnologico. Posizione intellettuale e politica che condividiamo totalmente, anche noi avendo proposto qualche tempo fa – per opporci al potere che noi definiamo totalitario del Big Tech e dei governi – che occorre esercitare una nuova forma di Resistenza politica e culturale contro l’imperialismo epistemico/ideologico del capitalismo e della tecnica, che sono appunto un regime totalitario; una Resistenza che si fondi sui diritti dell’uomo (civili e politici e sociali, e oggi di libertà cognitiva, cioè di pensiero, di immaginazione e di consapevolezza, di diritto alla privacy e al pensiero critico), e oggi sui diritti della biosfera e delle future generazioni, così come ci fu una Resistenza vittoriosa al nazi-fascismo in nome della libertà e della democrazia.
La resistenza tecnologica secondo Bruno Giussani
Perché rifiutare l’IA, scrive Giussani, “non è ovviamente un’opzione: nessuna nuova tecnologia, una volta immaginata e realizzata, può essere disinventata. Ma neppure è una opzione accettarla senza riflettere e senza analizzare: ogni tecnologia, una volta adottata, comporta conseguenze. È lì che si annida la vera minaccia. Non nella tecnologia in sé, ma nel modo in cui la pensiamo, le diamo forma, l’applichiamo, ci relazioniamo con essa, la utilizziamo”. In realtà la minaccia è per noi anche nell’essenza della tecnologia (fatta di calcolo, integrazione, automatismi e standardizzazione), ma certo è soprattutto – e Giussani lo spiega bene nei capitoli del libro – nel come e da chi questa nuova tecnologia viene realizzata e a come viene im-posta a tutti noi (attraverso propaganda, influenza, familiarizzazione con la tecnica, favole e illusioni tecnologiche, dipendenza, feticizzazione della tecnica, pervasività conversazionale, mimetismo emotivo e antropomorfizzazione dell’i.a.), imposta come un dato di fatto appunto alla società e agli uomini che devono limitarsi ad adottarla, adattandosi ad essa – mai esercitando un pensiero critico, mai un principio di precauzione e di responsabilità; e più che dare noi forma alla tecnica è la tecnica che ci mette in forma secondo i sui principi di razionalità calcolante e i suoi dispositivi, che sono mentali/comportamentali e normativi e normalizzanti/omologanti su di noi. Anders diceva che le forme tecniche diventano forme sociali, a prescindere dall’uomo, sempre antiquato rispetto al Prometeo che ha scatenato.
E quindi e conseguentemente, per noi, il dovere di porre la questione se sia doveroso bloccare ex ante, cioè prima di adottarla, una certa innovazione tecnologica se questa può minacciare libertà e democrazia, per questo applicando una euristica della precauzione e della responsabilità, qui richiamando il filosofo Hans Jonas. Non si cerca di impedire forse la guerra, non si perseguono forse i crimini contro l’umanità, non si combattono i cartelli della droga, non è stato votato il NO al nucleare, non si sono fermati gli OGM – perché non fare altrettanto contro i cartelli dell’hi-tech che creano altrettanta dipendenza tecnologica e stanno producendo un crimine contro l’homo sapiens, riducendolo non solo a merce (Marx) ma a numero calcolabile, controllabile, manipolabile e peggio standardizzabile/omologabile/integrabile nel totalitarismo della tecnica? Certo, poi il sistema cerca sempre di aggirare limiti e regole (la CPI è stata cancellata dai radar), siamo governati da criminali folli che fanno della guerra e del genocidio la loro politica, ma questo non esclude il doverci provare sempre. Riconoscendo che dietro alla i.a. vi sono i colossi del Tech, ma a monte di essi vi è quella che chiamiamo razionalità strumentale/calcolante-industriale, cioè la tecno-archía della modernità basata solo sul calcolo e sul sempre di più, una razionalità del tutto irrazionale e nichilista – e basterebbe ricordare la crisi climatica e ambientale, che di questa razionalità è figlia e causa sui, ma in altro modo, per riconoscerlo.
Resistenza contro il Tecnopolio
Giussani richiama molto opportunamente il saggio Technopoly del 1992 del sociologo Neil Postman, che scriveva: “Il tecnopolio è una condizione culturale e mentale consistente nella deificazione della tecnologia. Il che significa che la cultura ricerca nella tecnologia la propria giustificazione, trova soddisfazione nella tecnologia e prende ordini dalla tecnologia”. Ecco, è questo prendere ordini dalla tecnologia che occorre rovesciare radicalmente.
Anche perché – ancora Postman – “le nuove tecnologie alterano la struttura dei nostri interessi: le cose a cui pensiamo. Esse alterano il carattere dei nostri simboli: le cose con cui pensiamo. Infine alterano la natura della comunità: il terreno in cui si sviluppano i pensieri”. E da qui, di nuovo, “la necessità quindi di sviluppare una attitudine da resistenti tecnologici. Ciò non significa affatto essere anti-tech, tutt’altro. Il sociologo Postman” – scrive Giussani – “esorta piuttosto a prestare seriamente attenzione alle nuove tecnologie, mantenendo però l’accento sui valori umani”.
Ancora Postman, richiamato sempre da Giussani: “Un militante della resistenza capisce che non si deve mai accettare la tecnologia come parte dell’ordine naturale delle cose [che è invece ciò che la propaganda di governi e Big-Tech ci inducono a pensare], che ogni tecnologia è il prodotto di un particolare contesto economico e politico e che porta con sé un programma, un ordine del giorno e una filosofia che possono o no migliorare la vita e che quindi devono essere valutati, criticati e controllati. In breve, un militante della resistenza mantiene, di fronte a qualsiasi tecnologia una distanza epistemologica e psichica, in modo che essa appaia sempre come qualcosa di estraneo, mai inevitabile e mai naturale”. Peccato che invece ogni tecnologia venga offerta/spacciata come una droga, o come una magia o come una fede religiosa – facendo cadere ogni possibilità di resistenza. A meno che…
“E se il termine resistenza – aggiunge Giussani – vi pare eccessivo o troppo netto, si potrebbe parlare di approccio lungimirante alla tecnologia, per suggerire la stessa cosa: adottare un atteggiamento sagace, lucido, consapevole”.
Ricordando tuttavia che Giussani scrive essenzialmente di tecnologia, mentre noi (e non solo noi) preferiamo dire tecnica – la sua razionalità strumentale, calcolante e industriale. Che è a monte della tecnologia, anche se la tecnologia è dominata, prodotta da – è l’effetto di – questa (ir)razionalità strumentale, soprattutto solo calcolante; industriale come forma di organizzazione, comando e sorveglianza della vita umana.
Libertà e integrità cognitiva
E dunque, se è vero che l’intelligenza artificiale funziona sulla base di ciò che scrivono i programmatori (come generalmente si crede e pensa) – e “la macchina legge i testi senza memorizzarli, analizzandoli per comprendere la loro struttura linguistica e le relazioni tra parole e frasi. Ne trae delle variabili chiamate parametri. Questo le permette poi di generare risposte plausibili e contestuali alle domande […]. Tuttavia la macchina […] non pensa, né ragiona. Genera risposte stimando statisticamente la probabilità che, data la sequenza delle parole precedenti, una parola piuttosto che un’altra appaia in una frase. Un meccanismo simile opera nei modelli che generano immagini” – è però anche sempre più vero che “il funzionamento dei grandi modelli linguistici (ciò che accade al loro interno) è nebuloso anche per chi li sviluppa”.
Di più (sempre Giussani): “l’intelligenza artificiale è la prima tecnologia della storia a non essere semplicemente uno strumento reattivo, di cui l’utente determina le azioni, attiva i comandi e definisce i parametri” – e da tempo ma sempre di più, aggiungiamo, non esistono più macchine singole ma tutte le macchine convergono in mega-macchine integrate tra loro e con gli uomini integrati/ibridati con macchine che procedono in machine learning – ma appunto “gli sviluppi attuali mirano alla creazione di agenti capaci di prendere decisioni in modo autonomo, intenzionale e flessibile, di perseguire un obiettivo senza seguire un percorso prestabilito”. Detto altrimenti: autonomia della macchina, alienazione (digitalizzata) dell’uomo.
“E a un chatbot che sa tutto di una persona – priorità, punti deboli, segreti, desideri, paure, il suo conto in banca, una quantità infinita di dettagli personali – sarà quasi impossibile resistere. Avrà il potere di controllare ciò che pensiamo e ciò che facciamo. Il bersaglio è la nostra libertà cognitiva”, cioè la nostra libertà. E i chatbot sono quindi simulatori di conversazione che operano a fini di profitto privato e di estrazione di dati in un mondo tecnologico privato di conversazione reale ma che tuttavia produce una compensazione illusoria di conversazione, che è autoreferenziale, simile a quella dei social, simulatori di socializzazione in un mondo privato di socializzazione reale. Perché è un mondo tecnico che, sempre per sua essenza, produce alienazione e isolamento per integrare meglio ciascuno in sé come sistema tecnico diventato sociale, cioè applicando come proprio principio politico della storia della modernità – direbbe Anders – il taylorismo; o “la fratturazione sistematica degli esseri umani”, come ricorda Giussani. La sostanza non cambia.
Libertà e integrità cognitiva – intesa (secondo la deputata svizzera Isabelle Chappuis, citata da Giussani) come “la capacità di un individuo di preservare e controllare i propri processi mentali, i propri ragionamenti, la propria memoria senza influenze esterne, di pensare liberamente e razionalmente, di percepire la realtà e prendere decisioni in modo autonomo” (che era il concetto di autonomia e di libertà illuministica, secondo Kant), evitando la colonizzazione mentale prodotta ancora di più dalla i.a., oggi che anche la guerra diventa guerra cognitiva. Qualcosa che è invece essenziale – l’integrità cognitiva – anche per la democrazia e i diritti civili. È questo che vogliamo, è questa alienazione totale di noi stessi che cerchiamo nelle macchine, siamo stanchi di libertà e di democrazia? Sembrerebbe di sì, visto l’entusiasmo con cui ci stiamo adattando/arrendendo all’intelligenza artificiale (l’aggressore invisibile dell’homo sapiens, potremmo definirla), senza capire che ci stiamo spegnendo il cervello.
Ora e sempre, Resistenza
Come fare Resistenza, allora, se sembra quasi impossibile resistere? Bastano leggi e regole – ammesso che i governi vogliano davvero porre limiti e regole alla intelligenza artificiale (come vietare l’uso dei social ai minori) e non siano, come invece sempre più sono, complici del Big-Tech (e non è solo Trump a esserlo, pensiamo a Mario Draghi e al suo mantra della competitività tecnologica, diventato il mantra della UE)? Serve dis-americanizzarci – e non solo dal punto di vista delle infrastrutture digitali? Serve de-antropomorfizzare la tecnologia? Serve imparare a riconoscere la manipolazione mentale grazie alla quale l’i.a. si diffonde e travolge come uno tsunami – e nelle scuole si insegna a usarla e non a capire come funziona e come ci aliena? Molti gli spunti di riflessione offerti da Giussani.
“Abbiamo ancora un po’ di tempo – scrive Giussani – prima che le fondamenta di queste tecnologie si consolidino. Qualche anno. Dopo di che, la forma che assumerà il nostro rapporto con esse potrebbe essere difficile da modificare”. Qualche anno? Forse Giussani è troppo ottimista. E non saremmo arrivati alla i.a. e alla alienazione cognitiva che produce – è la nostra opinione, con cui chiudiamo – se non avessimo lasciato consolidare le tecnologie precedenti. Soprattutto se non avessimo lasciato conquistare l’egemonia ontologica, teleologica e teologica alla tecnica e al calcolo.
Riferimenti bibliografici
G. Anders, “L’uomo è antiquato” (1956, 1980), due volumi, Bollati Boringhieri, 2003.
L. Demichelis, “Tecno-archía, o la Nave dei folli”, DeriveApprodi 2025.
J. Ellul, “La società tecnologica” (1954), Silvio Berlusconi Editore, 2025.
N. Farahani, “Difendere il nostro cervello”, Bollati Boringhieri 2024.
H. Jonas, “Il principio responsabilità”, Einaudi 1990.
