Il 10 aprile 2026, verso le tre e mezzo del mattino, un ventenne texano lanciò una bottiglia incendiaria contro il cancello della casa di Sam Altman a Russian Hill, San Francisco. Non ci furono feriti. Un’ora dopo venne arrestato davanti alla sede di OpenAI, dove secondo l’accusa aveva minacciato di bruciare l’edificio e di uccidere chi vi si trovava.
Daniel Moreno-Gama è imputato in sede statale e federale, tra l’altro per tentato omicidio, e come ogni imputato è innocente fino a sentenza. Il suo avvocato ha parlato di una crisi di salute mentale. Su Instagram, secondo la ricostruzione del San Francisco Standard, usava il nome utente butlerian_jihadist. PauseAI e le altre organizzazioni che chiedono un freno all’intelligenza artificiale hanno condannato il gesto e negato che fosse un loro attivista.
Indice degli argomenti
La Crociata Butleriana e la paura dell’intelligenza artificiale
Che la cronaca nera arrivi a citare un romanzo del 1965 dice quanto Dune di Frank Herbert sia diventato il vocabolario delle paure di questi anni. Chi ha scelto quel nome ha letto della Butlerian Jihad, la Crociata Butleriana, un conflitto religiosamente e filosoficamente motivato, avvenuto circa 10.000 anni prima degli eventi narrati del primo romanzo di Dune. Per secoli l’umanità si era adagiata nel benessere fornito dalle macchine automatizzate, dai computer avanzati e dall’Intelligenza Artificiale.
Tuttavia, questa comodità si trasformò in una trappola. Gli esseri umani smisero di pensare, innovare e lottare, delegando la gestione della società, dell’economia e persino delle decisioni morali all’algoritmo. La rivolta nacque dal rigurgito di dignità di una parte dell’umanità che vedeva la propria specie ridotta a uno stato di involuzione spirituale e cognitiva. La rivolta fu sanguinosa, spietata e totale. Ogni forma di IA o computer capace di simulare la mente umana venne distrutta.
Dune e il vero bersaglio della Crociata Butleriana
Al termine della Crociata, i sopravvissuti sancirono il dogma supremo, scolpito nella Bibbia Cattolica Ecumenica, Orange Catholic Bible: «Non costruirai una macchina a somiglianza della mente di un uomo». È la Reverenda Madre Mohiam a pronunciare a Paul Atreides la frase su cui tutto poggia nel primo libro di Dune. «Un tempo gli uomini affidarono il proprio pensiero alle macchine sperando di esserne liberati e questo permise ad altri uomini, dotati di macchine, di asservirli».
Il soggetto dell’asservimento è umano. La Reverenda Madre osserva che il testo del comandamento di cui sopra andrebbe corretto nel divieto di contraffare la mente umana. Nell’Imperatore-Dio di Dune, Leto II va oltre e dice che il bersaglio della Crociata era un atteggiamento umano macchinico pari alle macchine.
L’atteggiamento macchinico non è l’uso che facciamo delle macchine, ma il modo in cui noi stessi iniziamo a funzionare, pensare e relazionarci come se fossimo macchine. È il processo per cui l’umano introietta la logica dell’hardware e del software, applicandola all’esistenza. Un mondo binario, input/output, puntato all’efficienza, all’ottimizzazione e alla produttività. Il pericolo, in Herbert, sta nella comodità che ci fa smettere di decidere e nella mano che approfitta della rinuncia.
Da Samuel Butler ai luddisti: la guerra alle macchine
Il nome della Crociata rimanda a Samuel Butler, che il 13 giugno 1863 firmò con lo pseudonimo Cellarius una lettera al quotidiano The Press di Christchurch, in Nuova Zelanda. Si intitolava Darwin tra le macchine. Butler sosteneva che esse fossero una forma di vita in evoluzione destinata a soppiantare l’uomo e proponeva di sterminarle. Se l’impresa sembrava impossibile, voleva dire che la servitù era già cominciata e nessuno se n’era accorto.
Nove anni dopo, in Erewhon, la lettera diventò un romanzo distopico su una società che aveva distrutto gran parte dei propri macchinari per paura della loro evoluzione. Kurt Vonnegut, in una splendida paginetta de Le sirene di Titano del 1959 narra con perfetta sintesi di come il pianeta Tralfamadore, un tempo abitato da esseri viventi, fosse divenuto un pianeta di sole macchine dopo che gli abitanti originari avevano demandato loro il compito di scoprire lo scopo della vita e, non avendone trovato uno, il conseguente compito di sterminare i viventi, immediatamente eseguito.
Da una parte la paura di essere soppiantati, dall’altra l’ansia di trasformarla in una profezia che si autoavvera.
Il luddismo e il potere umano sulla tecnologia
Mezzo secolo prima di Butler una guerra alle macchine c’era stata davvero. Nel marzo del 1811 ad Arnold, vicino a Nottingham, cominciò la prima grande ondata di distruzione dei telai da calza. I luddisti, attivisti di un movimento ispirato al leggendario Ned Ludd, non odiavano le macchine in sé. Nel Nottinghamshire protestavano contro l’uso dei nuovi telai larghi che permetteva di impiegare meno operai e meno qualificati, nonché contro i salari tagliati.
Nello Yorkshire l’ostilità venne rivolta invece al macchinario in quanto risparmio di lavoro. Nel 1812 il Parlamento inasprì le pene per la distruzione dei telai fino al capestro. Nel gennaio del 1813, a York, furono giustiziati diciassette uomini per le violenze luddiste.
Il luddismo storico ha più la struttura del versetto di Mohiam che quella di Butler. Più che la guerra a una specie meccanica la cui evoluzione rischia di prendere il sopravvento sugli umani, si tratta di una contesa su chi decide come la macchina viene usata e a vantaggio di chi. La visione pessimistica di Vonnegut elimina ogni discussione attribuendo alla stupidità umana la responsabilità della distruzione della specie a opera dei bot. È sempre l’uomo a decidere.
Intelligenza artificiale e atrofia del pensiero critico
Il meccanismo dell’impigrimento delle abilità umane è più antico delle macchine. Nel 1784 Kant, in Risposta alla domanda: che cos’è l’Illuminismo?, definisce la minorità come l’incapacità di servirsi del proprio intelletto senza la guida di un altro e ne indica la causa nella comodità. Se ho un libro che ha intelletto al posto mio, un pastore che ha coscienza al posto mio, un medico che giudica la dieta per me, nota il filosofo, non ho bisogno di affaticarmi.
Aggiunge poi che i tutori, i quali si sono presi con tanta benevolenza la supervisione degli altri, si preoccupano di far apparire pericoloso camminare da soli. È la frase di Mohiam con quasi due secoli di anticipo e senza una sola macchina. L’uso recente dell’IA sta lasciando senza lavoro pure gli autori di tutorial su YouTube.
Gli istitutori autoeletti che spiegano come cuocere un uovo in camicia sono ormai superati dai modelli linguistici più comuni. Si sposta l’origine dell’informazione, l’atteggiamento fiacco verso il sapere rimane uguale.
Da Platone a Forster: il sapere delegato ai supporti
Platone ne dà una versione ancora più antica. Nel Fedro, il dio egizio Theuth presenta la scrittura al re Thamus come rimedio per la memoria. Il re risponde che produrrà oblio, perché chi si fida dei segni esterni smetterà di esercitare il ricordo e darà ai discepoli l’apparenza del sapere senza il sapere. Il paradosso è che lo si sa perché Platone lo ha scritto.
La delega ha fatto perdere qualcosa e ha permesso all’obiezione di raggiungerci. Qui la tesi dell’atrofia va tenuta a freno, perché la storia dei supporti non racconta soltanto perdite. Non per niente Umberto Eco definisce la conoscenza come l’abilità di sapere dove trovare le informazioni più che quella, impossibile, di saperle tutte.
La questione dell’atrofia indotta dalla comodità è una spirale che non si sa dove comincia e dove finisce. Nel 1909 E. M. Forster pubblica La macchina si ferma, racconto in cui gli uomini vivono ciascuno in una cella sotterranea, si parlano attraverso schermi, ricevono tutto dalla Macchina e finiscono per venerarla, con tanto di libro sacro. Non c’è nessuna guerra. Quando la Macchina si guasta la civiltà si spegne con lei perché nessuno sa più fare niente senza.
Nel libro di Herbert le macchine pensanti vengono eliminate in favore di nuove stirpi di umani super calcolatori e sacerdotesse con superpoteri sapienziali. La mancata atrofia ha permesso lo sviluppo di nuove abilità nei viventi, ma questo è l’aspetto fanta- della fantascienza.
Cosa dice lo studio sull’IA generativa
Nel 2025 un gruppo di Microsoft Research e della Carnegie Mellon University ha interrogato 319 lavoratori della conoscenza che usavano ogni settimana l’IA generativa, raccogliendo 936 esempi di compiti svolti con il suo aiuto. Chi aveva più fiducia nello strumento dichiarava meno pensiero critico, chi ne aveva di più nelle proprie capacità dichiarava il contrario. I dati sono autodichiarati e mostrano una correlazione, non un’atrofia misurata. Indicano però dove sta il rischio. La delega scatta quando il compito sembra facile, la fiducia è alta e il pensiero critico si sposta dal fare al verificare.
Dopo la Crociata Butleriana, la delega cambia forma
Se la lettura giusta è quella di Mohiam e di Leto II, la Crociata non è una soluzione e Herbert lo mostra nel mondo che ne esce. Eliminate le macchine restano i compiti che svolgevano, qualcuno deve occuparsene. Nascono i Mentat, uomini addestrati a fare i calcolatori, i Navigatori della Gilda mutati dalla spezia e le Bene Gesserit con il loro programma di selezione genetica. È un’evoluzione forzata che Mohiam presenta come il frutto della rivolta.
Ma un uomo forgiato per svolgere la funzione di un calcolatore è ancora una risorsa da ordinare, uno strumento usato da altri uomini come fosse una macchina. I superpoteri umani sviluppabili, poi, restano un mistero dai tempi di Pico della Mirandola.
La legge italiana sull’intelligenza artificiale e il primato umano
La risposta più concreta arrivata finora non somiglia a una Crociata. La legge italiana sull’Intelligenza Artificiale, la numero 132 del 23 settembre 2025, non vieta niente di simile. Stabilisce che in sanità il sistema resti un supporto non vincolante e che la decisione spetti sempre al medico, che nelle professioni intellettuali la macchina sia strumento mentre il lavoro umano debba mantenere la prevalenza. È Kant tradotto in articolo di legge. Ma un obbligo di prevalenza vale finché qualcuno lo verifica e l’indagine di Microsoft e Carnegie Mellon suggerisce dove cede, proprio nel punto in cui lo strumento funziona bene e la fiducia sale.
Il pericolo dell’IA ha ancora un indirizzo umano
Chi ha scelto butlerian_jihadist come nome utente ha comunque puntato dritto sull’uomo, non sulla macchina, confermando il punto filosofico della Crociata inventata da Herbert più che quello teorizzato da Samuel Butler. Nel verso di Mohiam nessun server risponde delle proprie azioni, solo chi lo possiede e lo governa ne risponde. Un amministratore delegato è esattamente quel soggetto. In questo l’attentatore di Russian Hill ha letto meglio di molti commentatori la lezione di Herbert. Il pericolo ha sempre un indirizzo e quell’indirizzo è umano.
Se le macchine evolvono verso devianze minacciose, c’è il rischio che ci sia sempre un umano a cercare di avvalersene. Ma non è affatto detto che la mano di chi intende cavalcare la tigre degli agenti IA allucinati sia quella del loro creatore. Se il problema è che sfuggono al controllo umano, bisognerà cercare l’umano cui questo gioverebbe.
La scorciatoia violenta ripete l’errore della Crociata
Colpire un amministratore delegato con una bottiglia incendiaria è un ulteriore sintomo dell’atteggiamento macchinico. È la stessa scorciatoia che la Crociata di Herbert incarnava e che il romanzo, letto fino in fondo, non approva mai del tutto. Pensare che basti eliminare un nodo della catena, umano o elettronico che sia, per sciogliere la logica che lo tiene in piedi è precisamente l’errore che migliaia di anni di storia, nel racconto di Herbert, non riescono a correggere.
La Crociata Butleriana vinse la sua guerra e perse la sua battaglia più importante. La catena restò intatta, si limitò a cambiare i nomi dei suoi anelli.
Quante cose ha ancora da insegnarci la Finzione Scientifica.
Partecipa alla community