Racconti di un futuro distopico spesso presentano due forme diverse di schiavitù umana. La prima fa perno sulla paura del dolore; la seconda sul fascino del piacere. I manipolatori vanno a nozze sia con il dolore, sia con il piacere.
Indice degli argomenti
Orwell, Huxley e le due forme di schiavitù
Nel XX secolo, le due forme di schiavitù sono state definite, rispettivamente, da 1984 di George Orwell e da Il mondo nuovo di Aldous Huxley. Il romanzo di Orwell è l’incubo di uno Stato totalitario, in cui il Grande Fratello governa con il terrore e in cui chiunque è potenzialmente esposto al carcere o alla tortura. Poiché di Grandi Fratelli se ne possono trovare ovunque nel mondo, e per il racconto feroce di come si possa spezzare la libera volontà (“Amava Grande Fratello”), il libro di Orwell continua ad avere risonanza.
Nelle parole di Orwell, arresti e terrore sono accompagnati da una dose abbondante di manipolazione. Considerate: “Potere vuol dire ridurre la mente altrui in pezzi che poi rimetteremo insieme nella forma che più ci parrà opportuna”; oppure: “È qualcosa di bello, la distruzione delle parole”; o ancora, soprattutto: “Noi non ci limitiamo a distruggere i nostri nemici, noi li cambiamo”.
Il libro di Huxley, invece, è un incubo di consumismo, in cui le persone sono schiave del desiderio di piacere, fornito soprattutto dal “soma”, una droga fittizia. Nel mondo di Huxley, le persone si divertono molto, ma la loro vita non ha significato e non esistono connessioni genuine. Poiché quel mondo è al tempo stesso seducente e distruttivo per l’anima, e poiché il libro suscita un senso di riconoscimento nelle società libere, anch’esso continua a dirci qualcosa. C’è molta manipolazione nel mondo di Huxley. Per esempio: “Si credono le cose perché si è stati condizionati a crederle”; oppure: “Se uno è diverso, è fatale che sia solo”.
Intelligenza artificiale e manipolazione personalizzata
Né Orwell né Huxley avevano molto da dire sulla personalizzazione, che invece è una caratteristica tipica della nostra epoca, e che aumenta significativamente le occasioni per manipolare le persone. Né avevano qualcosa da dire su algoritmi o intelligenza artificiale, che possono essere altri motori di manipolazione. Amazon.com sa quali libri e quali film avete acquistato, e vi offre suggerimenti sulla base di quegli acquisti. Sa che cosa vi piace.
Dite qual è il vostro cantante o il vostro brano preferito, e l’intelligenza artificiale può crearvi una stazione radio solo per voi. Dopo aver tenuto traccia dei vostri movimenti nel Web, Google sa molte cose su ciò che vi interessa, e mette in evidenza dei prodotti sulla base di quello che sa. Siri sa che cosa avete in agenda, e sa molto dei vostri gusti e delle vostre preferenze. Cambridge Analytica sperava di acquisire un’enorme quantità di dati su un numero enorme di persone, e di usare quei dati per spostare le persone nelle direzioni desiderate. Le grandi aziende hanno sempre più potere per farlo. E lo stesso vale per i governi. Tutto questo mette il problema della manipolazione in netto rilievo, in un modo che non ha precedenti.
Lei
Lei (Her), lo splendido film del 2013 diretto da Spike Jonze, rappresenta un mondo distopico di piacere, ma in una forma tipicamente contemporanea. Theodore Twombly, il protagonista del film, si guadagna da vivere scrivendo lettere e cartoline molto personalizzate – per esempio, biglietti di auguri dalle mogli ai mariti per l’anniversario di matrimonio. Lo fa dopo aver raccolto molte informazioni sia sul mittente, sia sul destinatario. Nel mondo di Twombly, le lettere d’amore sono al tempo stesso esternalizzate e personalizzate. Twombly non è esattamente un sistema operativo, ma si comporta in maniera molto simile. Nel suo modo particolare, è un manipolatore.
Deve anche affrontare un imminente divorzio. La sua vita va a rotoli, piena di videogiochi e di sesso telefonico anonimo. Tutto cambia quando acquista un sistema operativo, una forma di intelligenza artificiale (pensate a una Siri 4.0), che si chiama Samantha.
Samantha ha accesso al computer di Twombly, e anche alle sue e-mail. Sa leggere molto rapidamente. Sa che cosa gli piace, che cosa no. Conosce i suoi punti di forza e i suoi punti deboli. Sa che cosa lo entusiasma. Sa che cosa lo deprime.
Soprattutto, forse, sembra interessata a lui. Ascolta. Può vedere il mondo attraverso i suoi occhi. È lì quando si sveglia, ogni notte lei è quella che gli augura la buona notte e quella a cui la augura lui. Lo veglia mentre dorme.
Samantha e il potere della personalizzazione
Se fosse tutto qui, ovviamente, l’interesse di Twombly potrebbe sfumare rapidamente. Se non sei un narcisista impenitente, non puoi innamorarti di qualcuno che sa dire soltanto “Dimmi di più”. Per come è costruita, Samantha ha interessi e preoccupazioni proprie. Le piace scrivere musica, ama giocare, è curiosa, può essere insicura ed è un po’ sbarazzina. Non lo sappiamo per certo, ma forse anche quelle caratteristiche sono un prodotto della personalizzazione. Forse sono esattamente quello che Twombly vuole e di cui ha bisogno. L’algoritmo di Samantha sembra in grado di identificare quelle cose. Samantha può manipolare Twombly come le pare.
Qualcuno parla di “innamorarsi” del proprio nuovo telefono o tablet. È un modo di dire, ma Twombly invece si innamora proprio, in pieno e con gioia, di Samantha (incredibilmente, Jonze riesce a far funzionare la vicenda). Lei sarebbe stato un film curioso ma meno valido (un aggiornamento più brillante e più felice de Il mondo nuovo), se fosse finito qui. Nelle relazioni umane, però, le persone cambiano e, quando succede, quelle che un tempo andavano perfettamente d’accordo possono finire per allontanarsi. Samantha è un sistema operativo, ma anche lei cambia, lascia Twombly e gli spezza il cuore. Uno dei temi del film è quanto ci sia simultaneamente di conforto, stimolazione e artificialità nei legami con ciò che non è umano – telefoni, tablet, sistemi operativi di ogni genere. La loro attrattiva sta, fra l’altro, nella loro capacità di imparare, quasi immediatamente, di che cosa hanno bisogno le persone e che cosa piace loro, e di manipolarle di conseguenza, soprattutto catturando la loro attenzione e attraendo anche i loro interessi finanziari.
Ex Machina e l’intelligenza artificiale manipolatrice
Lei, ovviamente, non è l’unica rappresentazione fantascientifica del potere che ha potenzialmente l’intelligenza artificiale di manipolare gli esseri umani. Una versione molto più cupa si trova in Ex Machina, un film del 2014. Parla di Ava, non un sistema operativo ma un (bellissimo) robot umanoide, costruito da un progettista brillante, Nathan Bateman, con l’aiuto di Caleb Smith, un programmatore.
Ava e Caleb formano quella che sembra una connessione, che diventa qualcosa di simile all’amore, perlomeno da parte di Caleb. Per molto tempo non sappiamo se Ava sia motivata da qualcosa, ed eventualmente da cosa: davvero si innamora di Caleb? In ogni caso, è abile a toccare tutti i punti giusti e a farlo innamorare di lei. Si dà il caso che Ava sia una manipolatrice eccezionale. È interessata alla propria libertà, non all’amore. Riesce a ottenere da Caleb quello che vuole da lui, che è la libertà. Porta sia Caleb che Nathan alla morte.
