C’è un oggetto, nella mitologia greca, che vale più di mille slide sull’AI Act. È un vaso, affidato a una figura fabbricata su ordine di Zeus per uno scopo preciso. Il suo nome è Pandora. E se pensate che sia solo una favola sulla curiosità femminile punita, avete letto la sintesi sbagliata.
Pandora, nelle fonti antiche, non è nata: è stata plasmata da Efesto con terra e acqua, su ordine di Zeus, e dotata dagli altri dèi di qualità pienamente umane, compresa la parola. Non è un essere senza volontà: parla, desidera, seduce, agisce.
Letta però con categorie contemporanee, questa origine “artificiale” e finalizzata a uno scopo ricorda da vicino l’idea di una tecnologia progettata per un compito, più che la nascita naturale di una persona.
Indice degli argomenti
Il vaso di Pandora e la due diligence che non c’è stata
Il paragone con la “black box” algoritmica è suggestivo ma va preso con cautela filologica. Una black box, in informatica, è un sistema di cui osserviamo input e output senza poter ricostruire pienamente il processo interno. Il vaso di Pandora, nel racconto di Esiodo, è piuttosto un contenitore il cui contenuto non viene esplicitato: più vicino a un rischio non analizzato, a una tecnologia adottata senza conoscerne le conseguenze, che a un sistema opaco per complessità intrinseca.
Per chi lavora in un ente pubblico e oggi valuta se e come introdurre sistemi di IA in un procedimento amministrativo, il punto resta comunque operativo: il vaso viene aperto prima di sapere davvero cosa contiene. È la domanda che ogni ente dovrebbe farsi prima, non dopo: conosco le conseguenze di questo sistema? Posso spiegarlo a un cittadino che fa ricorso? Il mito, in questo senso, anticipa uno dei nodi centrali del Regolamento europeo sull’IA: la trasparenza non è un vezzo, è la condizione per l’accountability.
Sul fronte tecnico, va detto con precisione: nei modelli generativi più complessi non è generalmente possibile ricostruire il contributo di ogni singolo parametro a un determinato output, e questo rende difficile una spiegazione causale completa, sebbene Anthropic ci stia lavorando molto. Ma i progettisti conoscono architettura, dati di addestramento e obiettivi del modello: non è un funzionamento del tutto ignoto, è una spiegabilità parziale. E i modelli generativi producono output, non necessariamente “decisioni”: diventano sistemi decisionali solo quando vengono inseriti in un processo che li usa per decidere qualcosa su qualcuno.
Talos e la prima sorveglianza automatizzata
Se Pandora è la metafora del rischio non valutato, Talos è il prototipo del sistema di sicurezza automatizzato, con l’avvertenza che qui le fonti antiche non raccontano un’unica storia. Secondo una tradizione, riportata da Apollonio Rodio, Talos è un superstite della stirpe di bronzo, donato da Zeus a Europa. Secondo un’altra, quella di Apollodoro, è un gigante forgiato da Efesto e donato a Minosse. In entrambe le versioni pattuglia Creta, si muove autonomamente, ha una vena di icore divino che gli scorre nel corpo: in termini contemporanei, un sistema di sorveglianza perimetrale, autonomo, letale. Il dettaglio di Talos che incendia gli intrusi abbracciandoli appartiene invece a tradizioni successive e non va dato per scontato come parte dello stesso racconto.
Quello che rende il mito ancora attuale, in tutte le sue varianti, è come Talos viene sconfitto. Non da un esercito, non da un dio più potente, ma da Medea, che ne individua l’unica vulnerabilità: un punto debole alla caviglia, dove la vena vitale è sigillata da un chiodo di bronzo. Le versioni divergono su come Medea agisca, in una lo rimuove promettendogli l’immortalità, in un’altra lo fa impazzire con la magia, ma il nucleo resta identico: il fluido vitale defluisce, il sistema si arresta. È, comunque la si racconti, una delle prime descrizioni letterarie di quello che oggi chiamiamo un exploit: non serve rompere il sistema, basta trovarne il punto debole e usarlo contro la sua stessa architettura.
La lezione per chi si occupa di cybersicurezza nella PA è: qualsiasi sistema, per quanto sofisticato, avrà sempre una superficie di attacco. La domanda non è se qualcuno la troverà, ma quando, e se nel frattempo l’ente avrà fatto penetration test, patching, formazione del personale. Talos non aveva nessuna di queste tre cose. Molti comuni italiani, oggi, purtroppo nemmeno.
IA nella pubblica amministrazione e potere di chi commissiona
Un dettaglio che passa spesso inosservato: Pandora nasce esplicitamente da una decisione di Zeus, che la commissiona a Efesto per un fine preciso. Anche Talos, nelle diverse versioni del mito, è legato al potere degli dèi e dei sovrani, che sia donato da Zeus a Europa o forgiato da Efesto per Minosse. I greci avevano già capito una cosa che continuiamo a rimuovere: la tecnologia non è mai neutra rispetto a chi la commissiona e a chi la riceve in dono.
Anche nell’antichità, le tecnologie più costose, dalle macchine d’assedio ai sistemi di difesa costiera, dipendevano dai soggetti in grado di finanziarle: sovrani, eserciti, città. La loro forma e il loro impiego riflettevano inevitabilmente gli interessi di chi le commissionava, che fosse un re o un’assemblea civica. Trasportato a oggi, il tema è la concentrazione del potere computazionale: poche aziende private controllano i modelli fondazionali su cui si costruisce gran parte dell’IA generativa mondiale. Gli enti pubblici, comuni compresi, ricevono tecnologia progettata altrove e devono decidere se e come adottarla. Chiedersi chi ha costruito il modello, con quali dati, secondo quale governance, non è un esercizio accademico. È due diligence. E fare tesoro dell’esperienza del cloud e del concetto di sovranità digitale.
Prometeo contro Epimeteo: il vero tema è la governance anticipata
Il cuore filosofico di tutta questa mitologia sta in due nomi che sono anche due programmi cognitivi opposti. Prometeo significa “colui che pensa prima”. Epimeteo significa “colui che pensa dopo”. Prometeo avverte il fratello di non accettare il dono di Pandora inviato da Zeus. Epimeteo, sedotto dai vantaggi immediati, lo accetta comunque. Il disastro che segue non è colpa della tecnologia in sé, è colpa di aver deciso senza guardare avanti.
Oggi, nel dibattito sull’IA nella PA, di pensatori epimetei ne abbiamo fin troppi: enti che adottano un chatbot o un sistema di scoring senza una valutazione d’impatto, senza aver mappato i rischi, salvo poi rincorrere il problema quando emerge un bias o una violazione del GDPR. Servono più Prometei: chi si siede prima di firmare un contratto con un fornitore di IA e si chiede quali sono gli effetti di secondo ordine, non solo il vantaggio di primo livello.
Aristotele e l’automazione del lavoro
C’è un terzo pensatore, meno mitologico e più filosofico, che merita spazio in questo ragionamento: Aristotele. Nella Politica, immaginando telai che tessessero da soli o plettri che suonassero strumenti senza mano umana, formulò un’intuizione dirompente per l’epoca: se tali macchine fossero esistite davvero, la schiavitù non sarebbe stata più necessaria, perché il lavoro meccanico e ripetitivo sarebbe stato svolto dalle macchine stesse.
Va detto con onestà filologica che Aristotele non formula qui una critica generale della schiavitù, tanto che subito dopo sviluppa la propria teoria, oggi inaccettabile, della “schiavitù naturale”. Coglie però con precisione il nesso strumentale tra automazione e necessità di manodopera. Ed è un nesso che si può legittimamente riportare, come tesi di chi scrive più che come prosecuzione del pensiero aristotelico, alla discussione di oggi sull’IA generativa negli uffici pubblici: non si tratta di sostituire il funzionario, si tratta di liberarlo dalle attività a basso valore aggiunto, la profilazione ripetitiva, la compilazione manuale, per redistribuire il tempo verso attività a valore relazionale e decisionale. La differenza tra automazione emancipante e automazione sostitutiva sta tutta nella progettazione del processo, non nella tecnologia in sé.
Tre mosse prometeiche per un ente pubblico
Tradurre questa mitologia in pratica operativa per un comune o un’amministrazione significa concretamente tre cose.
Aprire il vaso prima di firmare
Aprire il vaso prima di firmare. Prima di adottare un sistema di IA, chiedere sempre al fornitore documentazione tecnica su come il modello è stato addestrato, quali dati usa, quale grado di spiegabilità offre. Se la risposta è vaga, è già un segnale.
Cercare il bullone alla caviglia
Cercare il bullone alla caviglia. Ogni sistema automatizzato introdotto in un procedimento amministrativo va sottoposto a valutazione dei rischi e, dove possibile, a verifica di sicurezza indipendente, prima che lo trovi qualcun altro al posto vostro.
Redistribuire, non sostituire
Redistribuire, non sostituire. Ogni progetto di automazione dovrebbe partire da una domanda esplicita: quale tempo umano liberiamo, e verso quale attività a maggiore valore lo redirigiamo? Se la risposta non c’è, il progetto non è ancora maturo.
Un manuale di rischio vecchio duemilacinquecento anni
Non c’è nulla di nostalgico nel guardare ai miti greci per parlare di intelligenza artificiale. C’è, semmai, la scomoda evidenza che i rischi strutturali dell’IA, spiegabilità parziale, vulnerabilità intrinseca, concentrazione del potere tecnologico, impatto sul lavoro, non sono scoperte del ventunesimo secolo. Sono pattern che l’umanità ha già raccontato a sé stessa, sotto forma di storia, per secoli.
Epimeteo, va ricordato, un’alternativa l’aveva ricevuta: Prometeo lo aveva avvertito esplicitamente di non accettare alcun dono da Zeus. Non seppe resistere a un vantaggio immediato di cui non aveva valutato le conseguenze, e solo dopo comprese l’errore. È esattamente questa possibilità di scegliere prima, che Epimeteo ebbe e non seppe usare, a rendere il mito ancora utile oggi. Chi lavora nella pubblica amministrazione italiana ha la stessa alternativa sul tavolo: decidere di essere Prometeo, di pensare prima, di valutare prima di adottare. Il mito non consegna una condanna della tecnologia. Consegna un avvertimento, e la possibilità, tutta nostra, di ascoltarlo.
Partecipa alla community