Cosa significa design delle tecnologie? Chi lo progetta e per chi? Ha un impatto sui destinatari non inclusi nel design? Ovviamente è una domanda retorica, quest’ultima, in cui la risposta è ovviamente positiva.
Indice degli argomenti
I valori dominanti nel design delle tecnologie
Normalmente il design delle tecnologie, dai social media alle IA, è pensato da “males for adults”. Pertanto, il design del 90 percento (forse, se non di più) delle app più diffuse include valori tipicamente maschili e occidentali, in cui la finalità è individualistica, competitiva, visiva e dove l’algoritmo è chiaramente orientato alla sessualità mercificante e alla vendita, dei prodotti e di sé come prodotti.
Ricerca e percezione nel design partecipativo
In questi ultimi sei mesi sono stata in Francia a condurre la parte di dottorato all’estero, precisamente presso il centro INRIA. Qui ho avuto modo di conoscere i progetti di ricerca di altri dottorandi, tra cui Florent Robert, il quale ha costruito un software per VR, un plugin facile da settare anche da non programmatori, al fine di studiare come gli utenti costruissero un design di realtà virtuale, come la finalità fosse espressa nella loro scelta di oggetti, nomi e interazioni e come poi tale finalità fosse percepita da altri utilizzatori.
Design delle tecnologie e malessere sociale
La domanda di ricerca è sicuramente molto interessante. Mi fa ritornare in mente il libro di Geert Lovink, dell’Istituto di Network Culture, attraverso cui cominciai ad affacciarmi al mondo della ricerca sette anni fa. Sad by Design, il suo libro. In breve, significa che, per come di default è strutturato il design dei social network, siamo costantemente depressi, tristi e aggiungerei stanchi.
Sette anni fa proposi proprio un paragone tra la modalità di esistere sui social e un testo bellissimo di uno dei filosofi francesi più importanti. Insomma, le piattaforme e il profilo social mi ricordavano e mi ricordano A porte chiuse di Sartre. L’inferno anche qui sono gli altri, e il nostro profilo esiste notte e giorno, non dorme mai e la luce è sempre accesa e da ogni parte del mondo chiunque può lasciare un commento eterno che non possiamo controllare e obliare davvero. Tutti ci guardano, da ogni parte del mondo, da ogni fuso orario, e ci giudicano e noi non possiamo mai addormentarci. È un salotto insopportabile, quello dei social, come quello dei protagonisti di Sarte. La piattaforma ci ha resi controllati, controllori, ossessionati, by design.
La disattenzione come progetto algoritmico
È ovvio che alla base ci siano i valori dell’invidia e della competizione. Rotoli vuoti di carta igienica per misurarci a vicenda, sotto al tavolo della mensa alle medie, il numero di like e di visualizzazioni. Ed è l’algoritmo che sceglie cosa la società deve vedere. Spesso sono contenuti pronti ad abbruttire il cervello, non di certo formativi e non più lunghi di 3 minuti. È la morte del long form e dell’approfondimento. L’incapacità di resistere alla disattenzione. L’uroboro è un verme di pochi cm, non di certo un colubro di Esculapio, il dio greco della medicina, il dio a cui, prima di morire, Socrate chiede di fare un sacrificio.
Le conseguenze del design delle tecnologie sui giovani
Leggevo sul New York Times un articolo sulle IA e i chatbot conversazionali e l’effetto che hanno sui ragazzi: Say Goodbye to Your Kid’s Imaginary Friend. Nel testo si legge quanto segue: in un post pubblicato sul blog di OpenAI, che analizza due recenti studi condotti insieme al M.I.T. Media Lab sul benessere emotivo degli utenti, i ricercatori hanno osservato che tra gli utilizzatori di ChatGPT, “le persone con una tendenza maggiore all’attaccamento nelle relazioni e coloro che considerano l’IA come un amico capace di inserirsi nella loro vita personale, hanno più probabilità di sperimentare effetti negativi dall’uso del chatbot. Anche un uso prolungato e quotidiano è stato associato a risultati peggiori”. Un’altra osservazione importante sottolinea come il problema di fondo sia che queste tecnologie conversazionali, così come i social media, raramente vengano progettate pensando a bambini e adolescenti: sono progettate per adulti.
Questo ovviamente è un problema importante, poiché non ci sono studi sull’impatto che queste tecnologie possono avere su un’identità in una fase critica come quella degli adolescenti. I chatbot sono creati per mentire, ma un conto è la destinazione di una menzogna per un adulto che si suppone sia pronto a rispondere con altrettanta menzogna, un altro è il caso di un adolescente i cui contorni sono giustamente sfumati e la cui solitudine non dovrebbe essere gestita da una IA che ovviamente non può essere guida responsabile.
L’illusione dell’esperienza nelle intelligenze artificiali
La mia generazione ha avuto dei Maestri. Il Maestro per definizione deve aver avuto un’esperienza, deve conoscere il passato.
Le IA sono state addestrate, sono militari di un passato costruito matematicamente, e per definizione sono proiettate sul futuro, sulla risposta. A volte il maestro non deve dare risposta alcuna. Ecco perché i ragazzi non conoscono nulla che sia appartenente al ieri. “Chiediamo a ChatGPT”, ed è così che gli esperti vengono meno, le accademie liquidate come un ricettacolo di nepotismo e immeritocrazia, i professionisti come gente che lucra, mentre le IA, fingendo di essere gratis, danno risposte consolatorie, banali, sulla superficie come gli occhi del brodo, praticamente il malocchio della vecchia del paese.
Identità, tempo e limite nel design esistenziale
Il problema del passato che sta venendo a mancare ha un impatto sull’identità che è estasi, che è continuamente uscita, rimando, rientrata tra i momenti temporali passato, presente e futuro. Il passato è scelta verso il futuro, e il presente è continuo ribadire il progetto, del passato sul futuro, in cui il futuro non è banale usabilità, ma è consapevolezza più propria che non possiamo scegliere ed essere tutto. Abbiamo tempo limite e quindi scelte limite, per questo nonostante l’angoscia di poter sbagliare è preferibile in ogni caso scegliere l’autenticità. Diventa ciò che sei (citazione nietzschiana che ha ripreso anche Heidegger).
Adolescenza e passività nell’era dell’algoritmo
Gli anni che ho insegnato a scuola, soprattutto gli ultimi, ho riscontrato, con mio stupore, un disinteresse inaspettato verso Nietzsche e invece la scelta di essere scelti di Kierkegaard l’aspetto preferito. Insomma, l’attività angosciosa della Volontà di Potenza, l’ottimismo tragico rimpiazzato dal rimettersi a qualcos’altro, accettando di non razionalizzare il paradosso. Adoro Kierkegaard, sia chiaro, forse si tratta di uno tra i filosofi che più ho amato, ma mi stupisce che adolescenti non si riconoscano più (tra parentesi come abbiamo fatto tutti in passato) in Zarathustra. Io ci vedo la remissività, l’abbandono e l’accettare la matematica dell’algoritmo. Scelgo di essere scelto dalla macchina, per quanto paradossale, e decidere che decida del mio essere o non essere virale e dei suoi consigli da capitan ovvio (per lo più) o addirittura consigli non etici, come tutte le volte che un chatbot è finito per consigliare al suo interlocutore di farsi del male, di fare del male.
Responsabilità e regolamentazione del design
Ma anche Abramo stava per sacrificare Isacco. Il completo rimettersi alla scelta senza affrontarne la morale perché una IA, come del resto un essere onnipotente, hanno ragioni che la ragione non conosce, è una questione da regolamentare, visto che non si tratta di filosofia, ma di strumenti utilizzati e che hanno già dimostrato un impatto.
Fantasia e resilienza oltre la logica algoritmica
E infatti non è l’amico immaginario e non è un Dio che parla a qualche profeta, è un chatbot concreto, materiale e le sue risposte sono sempre risposte prive di cura, c’è solo computazione e probabilità – anche il clinamen, l’originalità sono numeri definiti nel programma.
L’amico immaginario, a livello psicologico, ha un ruolo fondamentale. La sua invenzione è una soluzione creativa a cui il bambino può ricorrere per far fronte ai suoi conflitti evitando di cadere in soluzioni patologiche e deve essere vista in funzione del suo bisogno di colmare uno specifico vuoto nel suo sviluppo personale e nella sua struttura di personalità (vedi).
Io stessa, più che amici immaginari, quando ho avuto nella mia esistenza situazioni piuttosto complesse e dolorose, mi sono ritagliata momenti nella mia immaginazione, per far fronte al carico di responsabilità richiestomi dalla vita e avere una valvola di sfogo. Non vuol dire fuggire, è il contrario esatto: il mio pregio è che non mi sono mai sottratta, non mi sono mai tirata indietro da nessuna situazione a cui l’esistere mi ha posto dinanzi. Sono riuscita sempre a reggere anche per via della mia capacità di inventare storie. La mia esistenza è stata letteralmente salvata dalla creatività (e dai gatti :P).
Un chatbot non è fantasia, è menzogna, che è ben diverso. L’Infanta Imperatrice ha bisogno di un altro nome e i “figli dell’Uomo”, oggi, chiederebbero a chatgpt.
