Una famosa citazione attribuita ad Oscar Wilde viene di solito riportata come “Posso resistere a tutto tranne che alle tentazioni”. Wilde non ha detto proprio così; la citazione originale illustra tuttavia lo stesso risultato finale “L’unico modo per liberarsi di una tentazione è di abbandonarvisi”.
Indice degli argomenti
La tentazione della scorciatoia, da Wilde agli LLM
Pare che la “tentazione” di usare “scorciatoie” e risparmiare tempo, aumentando la produttività, sia diffusa non solo tra gli scrittori ma anche nell’ambito delle professioni tecniche e legali, cioè in quel variegato gruppo di persone, spesso anche iscritte ad appositi albi, che si rapportano direttamente con i propri clienti fornendo soluzioni ai loro problemi valendosi delle conoscenze tecniche che possiedono.
Soluzioni che, molto spesso, assumono la forma di relazioni e documenti di testo, che sono appunto un terreno fertile per la tentazione di usare i Large Language Model come “scorciatoie” per la produzione di documenti.
Il professionista e la responsabilità d’uso degli strumenti
In generale non si può accusare nessuno di mancanza di professionalità se impiega un qualsiasi strumento che ritiene adatto per soddisfare le esigenze del cliente; questo deve ovviamente estendersi anche alla Intelligenza artificiale generativa ed agli LLM. Ma il professionista è anche in questo caso obbligato a conoscere lo strumento, usarlo nel giusto campo di applicazione e con perizia, e soprattutto assumersi la responsabilità di garantirne i risultati.
Non è ormai un mistero per nessuno che gli LLM non obbediscono ad alcun principio di realtà, ma generano output su base statistica ed in modo non ripetibile. E’ per questo che un loro eventuale impiego richiede una supervisione strettissima sull’esattezza fattuale delle “parole” che da loro vengono generate sostanzialmente a caso; supervisione particolarmente necessaria quando tali output contengono nozioni, citazioni, risultati numerici ed altro.
I casi di cronaca: precedenti inesistenti e sentenze inventate
Sembra purtroppo che la quantità di verifiche realmente effettuate sia decisamente insufficiente, visto che da un paio di anni continuano ad apparire nelle cronache di tutto il mondo notizie di professionisti delle categorie più svariate, spesso avvocati e financo giudici, che vengono colti con le mani nel sacco da un esame di documenti da loro prodotti, esame che rivela l’inserimento di precedenti inesistenti, citazioni testuali completamente inventate, estese anche ad intere sentenze.
Esemplare è il caso recentissimo in cui un Giudice del Tribunale di Siracusa che, dopo essersi accorto di un atto grossolanamente generato con un LLM e depositato come atto di causa, ha punito per quanto possibile chi l’ha presentato, descrivendo, argomentando e motivando molto bene il malfatto. Potete leggerlo nelle ultime 4 pagine della sentenza, di cui consiglio a tutti la lettura.
Il metodo sofisticato non risolve il problema di fondo
Detto questo, e scremato dal novero dei professionisti conosciuti da Cassandra tutti coloro che fanno creare un documento da un LLM senza nemmeno controllarlo, rimangono pur sempre alcuni colleghi molto competenti nel loro campo, che utilizzano estesamente gli LLM.
Lo fanno in maniera più sofisticata, e certamente più sicura, facendosi “impostare” il documento da un LLM, poi controllandolo fattualmente, inserendo poi altri fatti ed informazioni rilevanti, interagendo creativamente con l’LLM stesso. Una specie di vibe-consulting, insomma. Ecco, pur essendo questo un metodo infinitamente migliore che far generare il documento da un LLM senza nemmeno controllarlo, rimane tuttavia un grave problema di fondo.
La fase più preziosa della consulenza che l’LLM non può sostituire
Un professionista che esamina un problema o una situazione, che sono spesso sempre diversi, prende le decisioni più importanti proprio all’inizio del lavoro; dà il suo meglio, e fa le scelte più importanti proprio studiando il problema ed “impostando” la soluzione in un documento “di testo”.
Producendo la versione iniziale con un LLM, che al massimo potrà fare un “buon” lavoro di “copia” di altri documenti con cui è stato addestrato od alimentato, salterà a piè pari questa fase del lavoro, lasciandosi magari sfuggire “impostazioni” migliori, trascurando parti del problema, mancando l’individuazione di alternative migliori o possibili rischi. Insomma, priverà probabilmente il proprio cliente del meglio della sua consulenza. E questo non è aumento della produttività. Si chiama in un altro modo.
Scrivere a Cassandra — Twitter/X — Mastodon
Videorubrica “Quattro chiacchiere con Cassandra”
Lo Slog (Static Blog) di Cassandra
L’archivio di Cassandra: scuola, formazione e pensiero
Cassandra per i posteri: l’archivio su Internet Archive
Licenza d’utilizzo: i contenuti di questo articolo, dove non diversamente indicato, sono sotto licenza Creative Commons Attribuzione — Condividi allo stesso modo 4.0 Internazionale (CC BY-SA 4.0), tutte le informazioni di utilizzo del materiale sono disponibili a questo link.
Partecipa alla community