L’intelligenza artificiale sta entrando in modo sempre più pervasivo in numerosi ambiti professionali, creando un’illusione collettiva di competenza che rischia di svuotare il valore delle professioni intellettuali.
La “facilità” nell’uso di modelli linguistici potrebbe sembrare un miglioramento, ma nasconde un pericolo: la perdita del vero valore del ragionamento e dell’esperienza.
Indice degli argomenti
L’air guitar come metafora della programmazione AI
Il rant di oggi è che usare un modello linguistico è come fare air guitar.
Magari pensavamo che l’infantilizzazione della vita adulta avesse raggiunto l’apice con i campionati di videogame, pardon, e-sport; beh, ci sbagliavamo. Quello che per la mia generazione si concludeva con la scoperta del sesso non individuale è oggi una professione.
E per non farci mancare nulla esistono, e come potevano mancare, i campionati di air guitar. Magari qualcuno pensava che dimenarsi a tempo di musica fingendo di suonare una chitarra immaginaria sia una di quelle due o tre cose che dovrebbero rimanere confinate a quando uno si fa la doccia e non c’è nessuno in giro; e invece no.
Cosa c’entra l’air guitar? Tutto è profondamente interconnesso, dice sempre Ted Nelson.
La programmazione ai tempi dell’IA: una falsa competenza
L’altro giorno mi sono letto un tot di articoli sulla programmazione con i vari assistenti intelligenti. Mi sono letto di quello che dà degli imbecilli ai suoi amici scettici; mi sono letto Kenton Varda, che in CloudFlare ha sviluppato una libreria di autenticazione OAuth usando Claude di Anthropic.
Mi sono letto Neil Madden, un esperto di OAuth che si arrampica sugli specchi per non dire che brucerebbe tutto (perché comunque essere possibilisti sulla IA è la mossa giusta per la carriera) ma poi conclude:
Per cose banali, che non mi interessa come vengono fatte, sono felice di lasciare che un modello linguistico faccia quello che vuole. Ma per le cose importanti, come il mio fottuto sistema di autenticazione, preferirei farlo io stesso ed essere sicuro di averci pensato davvero.
Io vorrei vedere quali sono esattamente le parti di codice dove uno può dire “non mi interessa come vengono fatte”. Giuro, sono curioso. Ma non è questo il punto.
Il punto è che quando parliamo di programmare con gli assistenti AI, parliamo di programmazione come la intendono manager e azionisti.
Il pianoforte, la programmazione e l’illusione della velocità
Vediamo se riesco a spiegarmi.
Non so se vi è capitato di recente di veder suonare un pianista. Quelle dita che volano sui tasti, quella naturalezza quasi aliena.
Eppure, se io vi dicessi che voglio studiare il pianoforte per migliorare l’agilità delle mie dita mi direste che sto perdendo il mio tempo.
Oppure vi è capitato di vedere un programmatore scrivere codice. Anche lì, dita che volano sulla tastiera, linee di codice che scorrono quasi come in un film di Hollywood.
Ignoriamo per un momento che il tasto più usato sulla tastiera è Backspace, e che scrivere fisicamente il codice occupa forse un quinto del tempo di un programmatore.
Ma se io vi dicessi che misuro la capacità di un programmatore dalla velocità con cui scrive codice, ci sono due possibilità:
- non siete del settore, però vi sembra che qualcosa non quadri perché siete sufficientemente intelligenti da respirare
- siete del settore, e giustamente mi date del deficiente.
Purtroppo, c’è poco da ridere. Il numero di linee di codice prodotte era realmente una metrica nei miei primi anni di lavoro. Non è durata molto, perché è come misurare la bontà di un pianista dal numero di tasti premuti in un minuto. È un’idiozia. Notate che nel caso del pianista non ho detto “la rapidità dell’esecuzione”, che almeno potrebbe darci un fenomeno da baraccone, ho detto proprio “numero di tasti premuti”, quali che siano.
Ecco, misurare un programmatore dalla quantità di codice scritto, o dalla velocità con cui viene prodotto, è un’altra idiozia.
L’evoluzione storica: dalla competenza alla produttività
Agli albori dell’informatica, le macchine avevano costi talmente enormi, che il software non veniva nemmeno considerato un prodotto a sé, e nessuno si poneva il problema se un certo programma richiedeva più o meno tempo di sviluppo.
Ma nel momento in cui la tecnologia digitale ha cominciato a essere mainstream, e l’hardware a costare sempre meno, la programmazione è diventata il costo da contenere.
E qui c’è il problema. Perché la programmazione è un’attività intellettuale estremamente complessa, di cui la maggior parte è… ragionamento. Il punto è che il ragionamento non si vede, e tanto meno si misura.
Quando un programmatore guarda fuori dalla finestra per mezzora, o riempie tre lavagne di appunti, sta lavorando. Il codice arriva solo a valle di tutta una serie di ragionamenti e simulazioni, ipotesi, conferme e smentite, che il programmatore ha già svolto nella sua mente. Questo non vuol dire affatto che il codice sia corretto; vuole dire che quel particolare codice è preferibile a decine di alternative che il programmatore ha già escluso perché sa già che sono sbagliate.
Per questo, decenni di cosiddetta innovazione concentrata sulla velocità con cui si scrive il codice hanno prodotto due risultati precisi:
- più codice mal scritto, e
- più tasti premuti e meno pensieri.
Il declino della qualità nel software contemporaneo
Poi possiamo discutere sui cambiamenti nella qualità del software, se vogliamo piangere. Perché quando il leccapiedi di Musk dicono di voler riscrivere il codice COBOL delle varie amministrazioni USA, parlano di codice che funziona da cinquant’anni.
Ma siccome, appunto, il ragionamento non si vede, e il codice invece sì, i manager, l’industria del software e ovviamente Hollywood, a cui dobbiamo l’idea del pubblico di cosa sia programmare e di come si comporti un programmatore, si sono concentrati su quello che invece si vede: il codice.
Da questo punto di vista i modelli linguistici sono solo l’ultimo passo in un lungo percorso che ha ridotto
- la professione informatica a proletariato digitale
- e le metodologie (o se vogliamo la disciplina) dello sviluppo a trial and error, con in più i ticket in Jira e i diagrammi in miro.
Dal lavoratore della conoscenza al proletariato digitale
Il mio primo lavoro è stato sviluppare una piattaforma ipertestuale multimediale per il lavoratore della conoscenza. Dopo trentacinque anni di cosiddetta “società dell’informazione”, il lavoratore della conoscenza fa il SEO, il social media manager, il pigiatasti a cottimo, o addirittura vede il proprio lavoro rivenduto come prodotto dell’IA, come i nigeriani etichettatori di dati o i settecento ingegneri indiani della startup “builder.ai”, che ha raccolto centinaia di milioni in investimenti prima che qualcuno si accorgesse che era truffa.
(Curiosamente, Builder.ai ha dichiarato fallimento ma nessuno è stato denunciato per truffa. Gli investitori non ci tengono a far sapere quanto sono boccaloni.)
L’estensione dell’illusione a tutte le professioni intellettuali
Ma quello che ho visto nell’informatica, gli LLM lo stanno estendendo a tutto il settore intellettuale.
Se da un lato tutto il settore dell’istruzione sta già scricchiolando di fronte da un lato a studenti che invece di imparare scrivono i prompt, e dall’altro a docenti che fanno correggere i test a chatGPT, il settore delle professioni non sta meglio.
Coach, psicologi, docenti, medici, avvocati… Io posso anche capire che Altman e compagnia vadano in giro a blaterare che “fra pochi anni” (era fra pochi anni anche quando ha cominciato, anzi, tre anni fa era “fra cinque anni”). Vanno capiti, devono vendere, e se tutto quello che hai in magazzino è sterco di vacca, lo sterco di vacca ha inaspettate proprietà curative.
La falsa democratizzazione e la perdita di credibilità delle professioni
Quello che non capisco, e che mi rattrista, è vedere tanti professionisti, pure capaci, bersi questa panzana madornale e addirittura sostenerla.
Senza capire che il solo scopo dei LLM è di abbassare il valore di mercato delle competenze umane.
I professionisti illusi credono che il genio nella lampada dei modelli linguistici li trasformerà in manager, e non capiscono che stanno minando la propria stessa credibilità.
E i professionisti illusi sono ovviamente affiancati da torme di utenti, illusi pure loro di diventare professionisti da quell’altra panzana, della “democratizzazione” delle professioni.
Ma non c’è nessuna democratizzazione. La competenza non è un problema di accessibilità o di democrazia. È un problema di fatica, di investimento di tempo e danaro. Cercare scorciatoie, vuol solo dire barare e non aspettarsi conseguenze.
Gli utili idioti dell’era digitale
Manager, azionisti e professionisti illusi vedono nei modelli linguistici la possibilità di avere il lavoro (o almeno gli aspetti visibili e vendibili del lavoro), ma senza i lavoratori.
Gli utenti illusi ci vedono la possibilità di avere lo spettacolo della competenza, senza la competenza.
Gli uni e gli altri, giocano il ruolo che Lenin (stavolta sono sicuro sia Lenin) avrebbe chiamato di “utili idioti”. Tutti a dimenarsi come degli ossessi con le loro air guitar, pensando di essere David Gilmour e aspettandosi una scrittura.
Con il problema aggiuntivo che questi utili idioti non giocano a favore della rivoluzione nella lotta di classe, ma a favore dei propri stessi oppressori.
