Riassumere il motivo del grande successo dei tech-bro (© DataKnighmare) come Altman ed Amodei è semplice. Peccato non lo si possa usare per avere i loro soldi. Ma per prevedere il futuro può essere molto utile.
Cassandra, in effetti, si vergogna un po’ di averci messo tanto a capire una cosa che forse a molte persone era perfettamente chiara da tempo.
Ma siccome nessuna di queste persone, se esistono, le ha mai fatto omaggio di questa informazione, e lei ha dovuto lentamente arrivarci da sola, oggi vi regalerà proprio questa sintesi, tanto estrema quanto rivelatrice.
Non si tratta assolutamente di una novità, ma di una “dimostrazione”, che essendo magnificamente sintetica, secondo il Rasoio di Occam è probabilmente magnificamente vera.
Indice degli argomenti
L’Effetto Eliza dietro l’Impero finanziario dell’IA
L’Impero finanziario dell’IA che è stato creato non è frutto della potenza di un nuovo giocattolo tecnologico come gli LLM. Non è nemmeno il prodotto di un complotto volto al dominio del mondo.
E’ lo sfruttamento, estremo, deliberato ed opportunista, di una nota debolezza della mente umana, operato mediante l’uso di una nuova tecnologia,
Questa debolezza viene spesso indicata col nome di “Effetto Eliza”, cioè dell’atavica ed irresistibile tendenza della mente umana a cercare suoi simili nel mondo che la circonda.
Nel caso dei chatbot questo causa una ”antropomorfizzazione” del programma con cui l’essere umano interagisce, che porta inevitabilmente a considerarlo “umano”.
Si tratta di una reazione “incontrollabile”, che compete su un piede di parità con la conoscenza oggettiva del contrario, e che se non accuratamente contrastata causa inevitabilmente importanti alterazioni del rapporto uomo-macchina.
E’ purtroppo del tutto “naturale” che le persone proiettino sé stesse anche su qualunque output in linguaggio naturale proveniente da un computer, e che gli attribuiscano “profondità” e significati che ovviamente provengono dall’umano, e non dal computer.
Da Eliza a ChatGPT e agli LLM
Riconoscete qualcosa di familiare ? Qualcosa di attuale e pervasivo? Riconoscete ChatGPT e gli LLM?
E questo tira in ballo Eliza.
Wikipedia la presenta così “ ELIZA è un chatterbot scritto nel 1966 da Joseph Weizenbaum.”
Sì, sessanta anni fa, e si trattava di poco più di mille righe di un linguaggio simile al BASIC.
Ma proseguiamo. L’autore di Eliza, Joseph Weizenbaum, scrisse il suo chatbot come un “esperimento”, ma le reazioni delle persone che l’utilizzarono lo sorpresero a tal punto da provocare una svolta permanente nei suoi interessi e nella sua carriera.
Il monito di Joseph Weizenbaum
Potremmo sintetizzare tutto questo dicendo che Weizenbaum ha passato il resto della sua vita cercando di avvertirci dei pericoli di questo fenomeno.
Ha fatto questo come poteva, cioè scrivendo testi fondamentali come “Il Potere del Computer e la Ragione Umana“, tradotto anche in italiano, esaurito da tempo ma in fase di ristampa. Compratevelo e veneratelo!
Cassandra l’ha raccontato anche nelle scuole, come vi riassume in questo articolo.
E siamo arrivati al nocciolo della questione.
L’antropomorfizzazione come arma di tecnocontrollo
Se dopo averli studiati con cura si depura la questione dai dettagli storici e filosofici, è lampante come nel passaggio da un chatbot scritto in Basic ad un LLM pilotato da una potenza computazionale sostanzialmente infinita questo potente effetto psicologico divenga un’arma di tecnocontrollo di massa.
Ed i techbro l’hanno capito per primi, ed hanno applicato quest’arma senza remore e senza pietà (cosa normale nel mondo della finanza) per il loro tornaconto personale.
Era così semplice.
Scrivere a Cassandra – Mastodon – Buttondown.com
Videorubrica “Quattro chiacchiere con Cassandra”
Lo Slog (Static Blog) di Cassandra
L’archivio di Cassandra: scuola, formazione e pensiero
Cassandra per i posteri: l’archivio su Internet Archive
Licenza d’utilizzo: i contenuti di questo articolo, dove non diversamente indicato, sono sotto licenza Creative Commons Attribuzione — Condividi allo stesso modo 4.0 Internazionale (CC BY-SA 4.0), tutte le informazioni di utilizzo del materiale sono disponibili a questo link.
