Dopo l’ucronia steam punk piazzata negli anni Ottanta del Novecento nel romanzo Macchine come me, il cui robot deuteragonista diventa terzo incomodo in un triangolo amoroso, Ian McEwan torna nel 2025 con una vera e propria distopia intitolata Quello che possiamo sapere, collocata nel 2119, a guerra globale e Grande Disastro ambientale conclusi.
Senza rinunciare al suo sguardo intimo sugli umani, lo scrittore ci propone una visione del futuro ribaltata dal ritrovamento di un manoscritto dei giorni nostri, scoperto per serendipità, il cui contenuto basta a far vacillare ogni speranza in una plausibile ricostruzione storica dei fatti.
Indice degli argomenti
Dispersione cognitiva e resistenza: il pessimismo antropologico di McEwan
Il tema è centrato sulla percezione umana della realtà, sull’incapacità di capire, il disinteresse stesso per la comprensione di quanto si verifica a un passo da noi, una manciata di anni prima del nostro tempo, nella piatta tempesta di una congenita dispersione cognitiva. Il quadro pessimistico di una civiltà che sopravvive nonostante sé stessa fa da sfondo, tra sociologia e antropologia, a una vicenda individuale che si erge a modello universale di resistenza allo smarrimento esistenziale.
L’IA ultra-irascibile e la guerra preventiva: la visione di McEwan sul conflitto
Scorrendo le righe del romanzo, l’attenzione è attratta solo di striscio dalla dinamica dissolutrice del nostro mondo nel futuro prossimo: «Gli eserciti si scontravano, ci fu qualche vittoria qua, qualche sconfitta là, e infine l’ultra-irascibile intelligenza artificiale optò per un’azione preventiva, e si procedette al lancio di missili, due per parte.
Si trattava di armi di potenza limitata, ma più di un milione di persone restarono uccise all’istante, quanto bastava per convincere entrambe le parti a ritirarsi inorridite e spingere la diplomazia ad affrettarsi a intervenire approfittando del momento di tregua».
Missili e decisioni automatiche: quando l’IA anticipa l’uomo in campo militare
L’Intelligenza Artificiale del passato, del nostro tempo, è definita ultra-irascibile, con un superlativo che intenzionalmente pare scritto da un ragazzino in un messaggio Whatsapp, e le viene attribuita come principale abilità quella di anticipare la scelta umana con un’azione preventiva efficace quanto letale.
Poco sotto rieccola in azione: «Quando l’Arabia Saudita si unì a Israele nell’invasione dell’Iran allo scopo di impedire che si dotasse di armi nucleari, si scoprì che ormai era tardi. Nel caos che seguì, sei armi nucleari tattiche furono fatte esplodere sopra la testa dei rispettivi eserciti. Anche in quel caso, per cieca e famelica determinazione ad accaparrarsi un vantaggio, la IA aveva deciso per entrambe le parti che l’attacco rappresentava la miglior forma di difesa».
Dal Risiko alla governance: l’indifferenza dell’IA verso le vite umane
Pare che McEwan ci voglia mostrare l’indifferenza dell’IA in merito alla salvaguardia di vite umane in un Risiko, una fredda partita a scacchi, che tende a precipitare le crisi per suscitare reazioni più ragionevoli in umani determinati comunque a seguirne ciecamente i dettami.
La situazione cambia poi, a Grande Disastro ambientale e militare consumato, quando si tratta di regolarla per il vivere civile degli anni Venti del secolo venturo.
La IAN nazionalizzata: da arma bellica a confessionale digitale
Allora diventa IAN, Intelligenza Artificiale Nazionale, strappata alle aziende private e gestita a livello governativo, con funzioni più social che politiche: «La IAN conosce in dettaglio la vita dell’interlocutore e, naturalmente, ha la memoria lunga. Ai giovani questo piace. Li fa sentire importanti, compresi e amati (…) Un confessionale, uno specchio, il punto cruciale della loro autostima».
Privacy, controllo e delazione: la IAN tra intimità e sorveglianza di Stato
E ancora: «Coppie di giovani sposi possono distruggere un matrimonio scambiandosi i file, eppure in tanti si ostinano a farlo. Le persone non interrompono le consultazioni per tutta la vita e sembrano certe che né lo stato né enti privati abbiano accesso al loro materiale. Ma se confessano un crimine la IAN le consegna alle autorità. Noi del dipartimento di Lettere perlopiù diffidiamo della prassi di scaricare problemi personali dentro un software inanimato.
Ci è concesso utilizzarlo solo a giorni alterni. A Scienze e Tecnologia l’accesso è invece illimitato. Gli scienziati che conosciamo sono più inclini a sottoporre i loro guai matrimoniali o professionali alla IAN. Dalle nostre parti tendiamo a utilizzarla più come uno strumento di ricerca».
Lo strumento che diventa bisogno: la dipendenza dalla IAN secondo il protagonista
Dopo le carneficine preventive, l’IA viene dunque nazionalizzata e svolge principalmente un ruolo psicologico di sostegno individuale. Il protagonista del libro riassume la questione durante una lezione tenuta al suo corso universitario, ponendo domande retoriche quali: «Quand’è che uno strumento utile diventa prima un bisogno, e poi un meccanismo di controllo? Ciò che in un primo tempo appare come una liberazione può finire per renderci schiavi».
Domande senza risposta: gli studenti del 2119 e i dilemmi obsoleti dell’IA
Pare la descrizione dell’avvento dei telefoni cellulari, ormai Età della Pietra, allorquando si divenne liberi di dimenticare i numeri delle persone care e si finì con l’essere tracciati e intercettati ovunque. Il prof conclude chiedendo agli studenti se vogliono che la IAN acquisisca coscienza e li superi in intelligenza, così da rendere ineccepibili le loro decisioni esistenziali e totale la loro dipendenza. Risposta non c’è, o meglio, è materiale per tesine e ricerche individuali che gli studenti non si dimostreranno interessati a svolgere.
Dal pubblico al privato: il riflusso dell’IA dalla politica estera al controllo sociale
Gli interrogativi sono abbastanza obsoleti, sembrano derivare da questo secolo più che dal prossimo, sfibrati in articoli su articoli per un buon decennio con frequenza crescente, non per niente nel 2119 di Mc Ewan gli studenti li snobbano.
È come se gli errori compiuti dagli uomini seguendo la guida dell’IA in campo militare avessero prodotto un riflusso dall’ambito pubblico a quello personale, ridimensionandone l’ascendente sulle decisioni di politica estera per farne un più pratico strumento di controllo della popolazione a uso dei governi.
Qualche scelta sbagliata in merito a singoli individui sarà meno grave di una scelta irresponsabile nei confronti di nazioni intere.
Confessioni e giustizia penale: dalla IAN di McEwan al tribunale di Mercy
È una frase buttata lì nella descrizione della Macchina Nazionalizzata, cui le persone concedono le proprie confidenze, a svelarne l’intento: «Se confessano un crimine la IAN le consegna alle autorità».
Gli errori dell’individuo, in questo confessionale senza privacy, non vengono perdonati con l’assoluzione religiosa, bensì perseguiti con la giustizia penale. E questo ci porta per associazione a un prodotto culturale di intrattenimento meno elevato, il film fantascientifico del 2026 Mercy – Sotto accusa, firmato da Timur Bekmambetov.
Mercy – Sotto accusa: quando l’IA decide la pena di morte in novanta minuti
In una Los Angeles futuristica, dove la criminalità è in costante aumento, il tribunale Mercy Capital Court si affida all’Intelligenza Artificiale per processare i responsabili di crimini violenti. Il sistema garantisce agli imputati accesso illimitato a tutte le risorse investigative disponibili e concede loro novanta minuti per dimostrare la propria innocenza.
Se non riescono ad abbassare la probabilità statistica di colpevolezza oltre una soglia prestabilita, la sentenza di morte è eseguita immediatamente.
Il sistema poliziesco misto: investigatori umani e macchina infallibile (o quasi)
Il crimine è compiuto e in fase di giudizio da parte dell’IA in un sistema poliziesco misto, tra poliziotti che indagano e macchina che decide la percentuale di affidabilità dell’imputazione.
Se l’IA sbaglia è perché indotta in errore dall’umano incompetente o che falsifica i dati, nell’assurda convinzione che la mala intenzione dell’uomo sia più grave dell’inettitudine del software, e sarà un investigatore, divenuto bersaglio del complotto, a dover scovare dove la macchina ha sbagliato a causa del depistante comportamento di individui che le hanno fornito ingannevoli prove.
La teoria del prompt: l’IA non sbaglia, è l’umano che si spiega male
Siamo di nuovo alla teoria del prompt. Non è l’IA a essere poco intelligente, è l’umano che non si spiega bene quando le dice le cose. Non è l’IA a essere malvagia, lei è imperscrutabilmente imparziale e accoglie imperturbabile gli errori dell’individuo che dovrebbe governarla. Salvo poi prendere qualche cantonata che verrà ribattezzata “allucinazione“.
Il peccato originale dell’IA: credere nell’infallibilità artificiale più che in sé stessi
L’uomo non è così stupido da credere ciecamente a sé stesso, mentre la macchina sì, a dispetto delle mille sue ipocrite petizioni di scusa una volta messa con le spalle al muro. Il peccato originale è credere ciecamente nell’IA, crederle più di quanto si creda a noi stessi. Da questa porta si introduce l’idea di un’infallibilità artificiale tutta da dimostrare. Se l’errore della macchina alla fine è sempre il risultato di un errore umano, di chi l’ha programmata, di chi la usa, di chi ne è specchiato, perché affidarle allora le nostre confessioni? Perché affidarle la decisione di bombardare preventivamente una nazione ritenuta ostile?
Certo, anche questo è un errore umano, l’IA non ne ha colpa.
