Intelligenza artificiale

Impariamo a essere critici verso la tecnologia: la lezione del Turco meccanico



Indirizzo copiato

Utilizzare sistemi di intelligenza artificiale sarà sempre più comune ed è per questo necessario e urgente modificare il nostro approccio all’informatica e alla tecnica, con un occhio sempre più critico ma non diffidente. Altrimenti il mondo rischia di essere ingannato come avvenne per 80 anni col Turco meccanico

Pubblicato il 20 set 2023

Paolino Madotto

manager esperto di innovazione, blogger e autore del podcast Radio Innovazione



L'AI rende funzionale il lavoro senza violare la privacy

Dal 1769 per circa 80 anni il Turco meccanico ha imperversato in Europa e negli Stati Uniti meravigliando le personalità più importanti del tempo con i prodigi che era in grado di fare giocando a scacchi con chiunque. L’automa ha battuto Napoleone e altre personalità del tempo, si è confrontato con scacchisti abilissimi e con le corti di mezza Europa senza mai far capire a nessuno il suo reale funzionamento attraverso un uomo nascosto dentro che metteva le sue strategie di gioco e le sue abilità personali al servizio dell’illusione.

Anche quella che chiamiamo Intelligenza Artificiale, in un certo modo, è frutto delle strategie personali, della capacità e dei valori di chi realizza le diverse soluzioni. Dietro a ChatGPT o Bard ci sono persone che sono nascoste da righe di codice e dati di addestramento che ci fanno sembrare questi sistemi neutrali anche quando non lo sono.

I progressi dell’Intelligenza Artificiale sono reali e non sono una illusione ma la storia del Turco Meccanico ci può aiutare a comprendere meglio cose c’è dietro a Large Language Models come ChatGPT e Bard. E a quali siano i rischi nell’affidarcisi completamente.

La storia del Turco meccanico

Un giorno del 1769 il famoso illusionista francese François Pelletier stava catturando su di sé tutte le attenzioni della corte di Maria Teresa d’Austria. Pellettier era considerato tra i più bravi illusionisti del tempo ed era noto per utilizzare una grande quantità di magneti per realizzare i suoi trucchi.

Lo scrittore ungherese Wolfgang von Kempelen fu ispirato da questa rappresentazione e un anno più tardi tornò alla corte per presentare qualcosa di veramente eccezionale: “Il Turco”.

Il turco era un automa sorprendente perché con le fattezze di un uomo era in grado di giocare a scacchi con chiunque e il più delle volte vincere, per un certo tempo venne perfino considerato imbattibile.

Immagine che contiene interno, arredo, vestiti, Viso umanoDescrizione generata automaticamente

Prima delle rappresentazioni venivano aperti tutti gli sportelli e veniva girato in modo che il pubblico potessero accertarsi che dentro ci fossero ingranaggi di ogni tipo, meccanismi che avrebbero permesso all’automa di funzionare.

Anche durante le rappresentazioni dell’automa venivano aperti gli sportelli e si potevano vedere gli ingranaggi, lo spettacolo prevedeva una luce soffusa e veniva illuminata la tastiera con dei candelabri. Dal cappello del turco poteva uscire del fumo ma per il resto la partita andava avanti.

L’unica condizione di gioco era che il turco dovesse avere la prima mossa e usare i pezzi bianchi. Nel caso l’avversario metteva un pezzo fuori posto il turco lo metteva al punto di partenza e scuoteva la testa.

Il Turco ebbe un successo incredibile, giocò e vinse con personalità del calibro di Napoleone e Benjamin Franklin allora ambasciatore Usa in Europa ma giocò anche con molti scacchisti importanti e fece tournée in mezza Europa e nelle Americhe passando per le principali città statunitensi e per l’Avana.

Come il Turco riuscì a ingannare il mondo

Alla morte dell’inventore la carriera del Turco proseguì per opera del musicista bavarese Johann Nepomuk Mälzel che ne divenne proprietario. Non che non ci fossero dubbi o che mai nessuno abbia avuto dei sospetti ma alla fine per circa 80 anni nessuno mai riuscì a svelare e comprendere sino in fondo il mistero.

In realtà dentro al Turco si nascondeva una persona che era posizionata in modo che anche aprendo gli sportelli, grazie ad un sistema molto sofisticato, non era possibile vedere. La persona aveva una scacchiera e le candele che utilizzava per illuminarla facevano uscire il fumo dal cappello del turco.

Attraverso un pantografo era possibile muovere il braccio del Turco in modo molto preciso sulla scacchiera superiore e attraverso dei magneti era possibile seguire i pezzi della scacchiera, ogni pezzo conteneva un piccolo magnete che rendeva questo possibile.

Per 80 anni circa il Turco era riuscito ad ingannare il mondo, anche se Edgar Allan Poe ne “Il giocatore di scacchi di Maelzel (Maelzel’s Chess Player)”, pubblicato nel 1836 sul «Southern Literary Messenger» aveva messo in dubbio in modo sistematico l’illusione del Turco. In realtà Edgard Allan Poe aveva riassunto una serie di dubbi e congetture nei confronti del Turco ma senza mai comprendere sino in fondo il mistero.

Tutti gli automi costruiti fino a quel momento, osserva Poe, anche i più sofisticati, sono in grado di compiere soltanto azioni meccaniche, predeterminate. Perfino una macchina molto avanzata, come quella di Babbage, che può eseguire calcoli su dati variabili, ha bisogno che i termini delle operazioni siano definiti in precedenza.

In una partita di scacchi, invece, non possiamo sapere in anticipo quale mossa farà l’avversario. Se una macchina fosse veramente in grado di giocare a scacchi, allora ci troveremo di fronte alla più grande invenzione dell’umanità. Dunque, non ci sono dubbi: le azioni del turco sono governate da un intervento umano. La domanda è: come?

Tuttavia, Maelzel, malgrado disponesse del Turco, era un tipo che faceva debiti che non riusciva a ripagare per cui indebitatosi anche negli Stati Uniti, vendette l’automa a John F. Ohl per 400 dollari, quest’ultimo dopo alcuni anni lo cedette al museo di Philadelphia. Qui venne distrutto dall’incendio che devastò la città il 5 luglio 1854. Solo allora il figlio del suo possessore decise di svelarne il segreto.

Immagine che contiene Viso umano, cartone animato, vestiti, personaDescrizione generata automaticamente

Le analogie tra il Turco e l’IA

La storia affasciante del Turco Meccanico ha ispirato Amazon[1] nella creazione di una piattaforma di crowdsourcing nella quale i lavoratori si possono iscrivere e mettersi a disposizione per fare dei compiti che committenti assegnano. Non c’è bisogno di conoscersi tra committente e lavoratore e l’interfaccia è la piattaforma.

L’intelligenza Artificiale si basa sul far apprendere a degli algoritmi dei comportamenti basati sui dati di input. Per procedere alla messa a punto di un sistema di intelligenza artificiale è necessario anzitutto selezionare e costruire un insieme di dati di addestramento. Questi dati devono essere spesso elaborati in modo che possano riportare tutte le possibili casistiche alle quali vogliamo addestrare il sistema, è necessario anche definire quante volte queste casistiche debbono essere sottoposte in addestramento.

Per esempio, se voglio che il mio sistema di IA impari a mettere chiodi su un asse di legno è necessario che io gli fornisca in ingresso una casistica molto numerosa di scene di un martello che batte su un chiodo, che consideri anche il caso nel quale il chiodo si piega o si rompa oppure che l’asse di legno in corrispondenza di un nodo non consenta di infilare il chiodo.

Come si costruisce un dataset di addestramento

Costruire questo dataset di addestramento è una operazione molto complessa ed impone che siano fatte delle scelte in base alle proprie convinzioni. Se penso che nessun legno possa resistere ad un buon chiodo potrei decidere di non inserire le situazioni nelle quali questo assunto non è vero, poiché non cercavo questi casi nemmeno mi rendo conto di non averle inserite. Una selezione “ideologica” non deve essere per forza frutto di una scelta consapevole, può essere il frutto di una distorsione in buona fede.

Una volta selezionati i dati devo scegliere quale algoritmo di intelligenza artificiale si addice meglio al problema. Esistono degli indicatori più o meno standard che mi possono aiutare ma alla fine sarà alla persona il dover selezionare l’algoritmo che meglio risponde ai diversi indicatori e farlo bilanciando diverse necessità (ad esempio velocità di risposta, capacità di calcolo necessaria, ecc). Anche questa scelta alla fine è una scelta arbitraria che dipende dalla persona che la compie, la strada per risolvere un problema passa da diverse vie e la scelta della via non è solo tecnica e può essere influenzata dalla ideologia di chi compie la scelta anche se lo fa in buona fede.

Infine, è necessario verificare l’attendibilità dei risultati sulla situazione reale e anche qui è compito del tema di ricercatori dare degli indicatori con i quali giudicare la bontà di quanto realizzato.

Una volta che l’algoritmo comincia a funzionare, nei casi più sofisticati come Alexa di Amazon ma molti altri, di solito ci sono un piccolo “esercito” di “taggatori” che hanno il compito di analizzare la risposta dell’algoritmo (in realtà le incertezze o i casi nei quali la risposta sia stata errata) e di indicare la risposta giusta affinché l’algoritmo possa impararla. Questo è facile finché devo decidere tra una pallina molto nera e una molto bianca ma se mi trovo di fronte ad una pallina grigia può diventare più complicato attribuirgli la classe bianca o nera. In questo caso il taggatore o esprime una sua valutazione o, spesso, esprime una sua valutazione sulla base di indicazioni fornite dal cliente e qui si crea di nuovo il problema dei criteri dell’algoritmo.

Dunque, i risultati di un sistema di intelligenza artificiale non sono solo l’applicazione di una tecnica ma l’applicazione di criteri di giudizio e valutazione, esperienza e capacità di comprendere la vera natura del problema. In un progetto di Intelligenza Artificiale l’informatica centra poco o comunque il giusto, come c’entrano poco anche alcune conoscenze tecniche matematiche. Ciò che è importante è la capacità di conoscere sino in fondo il problema e la capacità e l’esperienza di applicare particolari tecniche matematiche di valutazione dei risultati e dei dati di ingresso.

L’etica dei sistemi di IA

I sistemi di IA acquisiscono una loro etica che gli viene in un certo senso indotta dal tema di ricerca. Tutti quanti abbiamo ormai giocato con ChatGPT e ci siamo divertiti a fare domande o considerazioni di ogni tipo per coglierlo in fallo, un po’ come si faceva con i bambini per fargli dire una parolaccia e poi riderci su (almeno alla mia generazione si faceva). Ecco se ci si fa caso ChatGPT risponde sempre con un modo “buonista”, non dice parolacce (bisogna aggirare le sue barriere), ci propone valori e stili di vita aperti, inclusivi, liberali, democratici, ecc. Eppure, il mondo non è così, nella realtà c’è di tutto e basta andare un attimo su Internet per rendersi conto che non è detto che i valori “buonisti” siano la maggioranza. Malgrado questo ChatGPT è stato addestrato per non uscire mai dai “binari della correttezza”, se fosse addestrato sul Dark Web risponderebbe probabilmente in modo totalmente differente ma non sarebbe socialmente sostenibile.

Recentemente Meta ha rilasciato una nuova versione di un suo LLM e richiama l’attenzione sul fatto che il modello potrebbe esporre contenuti pericolosi.

L’IA ha opinioni politiche?

Una recente ricerca “From Pretraining Data to Language Models to Downstream Tasks: Tracking the Trails of Political Biases Leading to Unfair NLP Models” ha messo a confronto differenti LLM con le opinioni politiche arrivando alla conclusione che I diversi LLM hanno tendenze differenti e ad esprimerle in modo sintetico.

Come si vede dalla predisposizione dei punti sui quadranti ne esce un sistema di valori molto “liberal”. Indipendentemente dalle nostre specifiche valutazioni il tema non è che questi sistemi non possano avere delle tendenze politiche o valoriali ma che noi tendiamo ad utilizzarli pensando che non li abbiano.

I modelli di LLM, con i loro sistemi di valori e criteri differenti di rappresentazione della realtà, hanno questo rischio ma si celano dietro un manto di neutralità della tecnica.

Le risorse necessarie a mettere a punto un LLM ad oggi sono molto costose, soprattutto in termini di elaborazione dei dati. Questo limita la creazione di molti modelli diversi e facilita la concentrazione. Vari paesi stanno cominciando ad interrogarsi per dare risposte, in Cina sono stati posti dei vincoli ai criteri di addestramento e ai risultati. I vari LLM che prenderanno piede non potranno andare contro le idee sociali predominanti (lo stato socialista), essere offensive e via dicendo. Un altro approccio potrebbe prevedere, per esempio, delle risorse pubbliche a disposizione di ricercatori o dei team che vogliono sviluppare LLM.

Se pensiamo ad esempio in Italia il CINECA potrebbe rendere disponibili le sue capacità elaborative per essere messe a disposizione col vincolo che poi gli LLM dovrebbero essere a disposizione del pubblico e resi pubblici i criteri e vincoli di addestramento.

A tutto questo si aggiunge un recente studio dal titolo “How Is ChatGPT’s Behavior Changing over Time?” che secondo i ricercatori dimostra come la performance di GPT4.0 stia peggiorando con il tempo mentre la versione 3.5 non avrebbe questi problemi. I ricercatori fanno notare come il modello chiuso adottato da OpenAI non consenta di avere trasparenza sui criteri di addestramento e affinazione e l’unica valutazione che è possibile è “black box” ovvero testando il sistema dall’esterno.

Conclusioni

In conclusione, diciamo che i LLM sono una enorme potenzialità che sta ancora alle prime armi, escono nuovi modelli mensilmente e si affinano nuove tecniche per addestrare i modelli con meno risorse e meno dati di input.

Quello che è importante ricordare è che dietro ogni tecnologia c’è un sistema di valori e che non dobbiamo completamente affidarci a questi sistemi. Differenti sistemi di valori non significa che uno funziona e l’altro no perché possono esserci diverse strade per arrivare alla soluzione.

Copernico quando propose il suo sistema di calcolo che vedeva al centro il sole e non la terra non voleva rimettere in discussione la dottrina scientifica tolemaica in voga sino a quel momento. Semplicemente Copernico aveva esplorato un modo per semplificare il calcolo delle orbite dei pianeti, anche il sistema tolemaico funzionava perfettamente ma era solo più complicato. Solo anni più tardi, con Galileo, si arrivò a conferme che costarono torture e abiura a quest’ultimo.

È necessario che i modelli LM debbano essere sempre di più pubblici (nel senso che si possano conoscere i criteri con i quali sono stati creati) e i criteri di realizzazione siano chiari. È necessario che si conoscano gli autori, le loro idee del mondo, le idee del mondo delle loro aziende. È necessario che quando approcciamo un problema da affrontare con queste tecnologie si analizzi il tipo di problema e si applichi il modello più adatto con la consapevolezza che il sistema che risponde a tutto bene senza rischi non esiste e per ora non si vede all’orizzonte.

Utilizzare LLM sarà sempre più inevitabile ma è necessario e urgente ancora di più modificare il nostro approccio all’informatica e alla tecnica verso un occhio sempre più critico ma non diffidente. Conoscere le tecnologie sapendo che possono surrettiziamente imporci un sistema di valori, abitudini, comportamenti e cercare di comprendere cosa c’è sotto la superficie, approfondire e valutare è sempre più importante. L’esperto di digitalizzazione del futuro dovrà essere meno “bit&byte”, più capace di andare a fondo comprendendo cosa c’è dietro la tecnologia, come funziona realmente e quali sono le sue implicazioni all’interno delle organizzazioni. Non lasciare una tecnologia sempre più pervasiva nella nostra vita in mano ai tecnici e agli ingegneri ma riportarla a strumento per far vivere meglio la società.

Intelligenza artificiale

Impariamo a essere critici verso la tecnologia: la lezione del Turco Meccanico

Utilizzare sistemi di intelligenza artificiale sarà sempre più comune ma è necessario e urgente ancora di più modificare il nostro approccio all’informatica e alla tecnica, con un occhio sepre più critico ma non diffidente. Altrimenti il mondo rischia di essere ingannato come avvenne per 80 anni col Turco meccanico

Dal 1769 per circa 80 anni il Turco meccanico ha imperversato in Europa e negli Stati Uniti meravigliando le personalità più importanti del tempo con i prodigi che era in grado di fare giocando a scacchi con chiunque. L’automa ha battuto Napoleone e altre personalità del tempo, si è confrontato con scacchisti abilissimi e con le corti di mezza Europa senza mai far capire a nessuno il suo reale funzionamento attraverso un uomo nascosto dentro che metteva le sue strategie di gioco e le sue abilità personali al servizio dell’illusione.

Anche quella che chiamiamo Intelligenza Artificiale, in un certo modo, è frutto delle strategie personali, della capacità e dei valori di chi realizza le diverse soluzioni. Dietro a ChatGPT o Bard ci sono persone che sono nascoste da righe di codice e dati di addestramento che ci fanno sembrare questi sistemi neutrali anche quando non lo sono.

I progressi dell’Intelligenza Artificiale sono reali e non sono una illusione ma la storia del Turco Meccanico ci può aiutare a comprendere meglio cose c’è dietro a Large Language Models come ChatGPT e Bard. E a quali siano i rischi nell’affidarcisi completamente.

La storia del Turco meccanico

Un giorno del 1769 il famoso illusionista francese François Pelletier stava catturando su di sé tutte le attenzioni della corte di Maria Teresa d’Austria. Pellettier era considerato tra i più bravi illusionisti del tempo ed era noto per utilizzare una grande quantità di magneti per realizzare i suoi trucchi.

Lo scrittore ungherese Wolfgang von Kempelen fu ispirato da questa rappresentazione e un anno più tardi tornò alla corte per presentare qualcosa di veramente eccezionale: “Il Turco”.

Il turco era un automa sorprendente perché con le fattezze di un uomo era in grado di giocare a scacchi con chiunque e il più delle volte vincere, per un certo tempo venne perfino considerato imbattibile.

Immagine che contiene interno, arredo, vestiti, Viso umanoDescrizione generata automaticamente

Prima delle rappresentazioni venivano aperti tutti gli sportelli e veniva girato in modo che il pubblico potessero accertarsi che dentro ci fossero ingranaggi di ogni tipo, meccanismi che avrebbero permesso all’automa di funzionare.

 

Anche durante le rappresentazioni dell’automa venivano aperti gli sportelli e si potevano vedere gli ingranaggi, lo spettacolo prevedeva una luce soffusa e veniva illuminata la tastiera con dei candelabri. Dal cappello del turco poteva uscire del fumo ma per il resto la partita andava avanti.

L’unica condizione di gioco era che il turco dovesse avere la prima mossa e usare i pezzi bianchi. Nel caso l’avversario metteva un pezzo fuori posto il turco lo metteva al punto di partenza e scuoteva la testa.

Il Turco ebbe un successo incredibile, giocò e vinse con personalità del calibro di Napoleone e Benjamin Franklin allora ambasciatore Usa in Europa ma giocò anche con molti scacchisti importanti e fece tournée in mezza Europa e nelle Americhe passando per le principali città statunitensi e per l’Avana.

Come il Turco riuscì a ingannare il mondo

Alla morte dell’inventore la carriera del Turco proseguì per opera del musicista bavarese Johann Nepomuk Mälzel che ne divenne proprietario. Non che non ci fossero dubbi o che mai nessuno abbia avuto dei sospetti ma alla fine per circa 80 anni nessuno mai riuscì a svelare e comprendere sino in fondo il mistero.

In realtà dentro al Turco si nascondeva una persona che era posizionata in modo che anche aprendo gli sportelli, grazie ad un sistema molto sofisticato, non era possibile vedere. La persona aveva una scacchiera e le candele che utilizzava per illuminarla facevano uscire il fumo dal cappello del turco.

Attraverso un pantografo era possibile muovere il braccio del Turco in modo molto preciso sulla scacchiera superiore e attraverso dei magneti era possibile seguire i pezzi della scacchiera, ogni pezzo conteneva un piccolo magnete che rendeva questo possibile.

Per 80 anni circa il Turco era riuscito ad ingannare il mondo, anche se Edgar Allan Poe ne “Il giocatore di scacchi di Maelzel (Maelzel’s Chess Player)”, pubblicato nel 1836 sul «Southern Literary Messenger» aveva messo in dubbio in modo sistematico l’illusione del Turco. In realtà Edgard Allan Poe aveva riassunto una serie di dubbi e congetture nei confronti del Turco ma senza mai comprendere sino in fondo il mistero.

Tutti gli automi costruiti fino a quel momento, osserva Poe, anche i più sofisticati, sono in grado di compiere soltanto azioni meccaniche, predeterminate. Perfino una macchina molto avanzata, come quella di Babbage, che può eseguire calcoli su dati variabili, ha bisogno che i termini delle operazioni siano definiti in precedenza.

In una partita di scacchi, invece, non possiamo sapere in anticipo quale mossa farà l’avversario. Se una macchina fosse veramente in grado di giocare a scacchi, allora ci troveremo di fronte alla più grande invenzione dell’umanità. Dunque, non ci sono dubbi: le azioni del turco sono governate da un intervento umano. La domanda è: come?

Tuttavia, Maelzel, malgrado disponesse del Turco, era un tipo che faceva debiti che non riusciva a ripagare per cui indebitatosi anche negli Stati Uniti, vendette l’automa a John F. Ohl per 400 dollari, quest’ultimo dopo alcuni anni lo cedette al museo di Philadelphia. Qui venne distrutto dall’incendio che devastò la città il 5 luglio 1854. Solo allora il figlio del suo possessore decise di svelarne il segreto.

Immagine che contiene Viso umano, cartone animato, vestiti, personaDescrizione generata automaticamente

Le analogie tra il Turco e l’IA

La storia affasciante del Turco Meccanico ha ispirato Amazon[1] nella creazione di una piattaforma di crowdsourcing nella quale i lavoratori si possono iscrivere e mettersi a disposizione per fare dei compiti che committenti assegnano. Non c’è bisogno di conoscersi tra committente e lavoratore e l’interfaccia è la piattaforma.

L’intelligenza Artificiale si basa sul far apprendere a degli algoritmi dei comportamenti basati sui dati di input. Per procedere alla messa a punto di un sistema di intelligenza artificiale è necessario anzitutto selezionare e costruire un insieme di dati di addestramento. Questi dati devono essere spesso elaborati in modo che possano riportare tutte le possibili casistiche alle quali vogliamo addestrare il sistema, è necessario anche definire quante volte queste casistiche debbono essere sottoposte in addestramento.

Per esempio, se voglio che il mio sistema di IA impari a mettere chiodi su un asse di legno è necessario che io gli fornisca in ingresso una casistica molto numerosa di scene di un martello che batte su un chiodo, che consideri anche il caso nel quale il chiodo si piega o si rompa oppure che l’asse di legno in corrispondenza di un nodo non consenta di infilare il chiodo.

Come si costruisce un dataset di addestramento

Costruire questo dataset di addestramento è una operazione molto complessa ed impone che siano fatte delle scelte in base alle proprie convinzioni. Se penso che nessun legno possa resistere ad un buon chiodo potrei decidere di non inserire le situazioni nelle quali questo assunto non è vero, poiché non cercavo questi casi nemmeno mi rendo conto di non averle inserite. Una selezione “ideologica” non deve essere per forza frutto di una scelta consapevole, può essere il frutto di una distorsione in buona fede.

Una volta selezionati i dati devo scegliere quale algoritmo di intelligenza artificiale si addice meglio al problema. Esistono degli indicatori più o meno standard che mi possono aiutare ma alla fine sarà alla persona il dover selezionare l’algoritmo che meglio risponde ai diversi indicatori e farlo bilanciando diverse necessità (ad esempio velocità di risposta, capacità di calcolo necessaria, ecc). Anche questa scelta alla fine è una scelta arbitraria che dipende dalla persona che la compie, la strada per risolvere un problema passa da diverse vie e la scelta della via non è solo tecnica e può essere influenzata dalla ideologia di chi compie la scelta anche se lo fa in buona fede.

Infine, è necessario verificare l’attendibilità dei risultati sulla situazione reale e anche qui è compito del tema di ricercatori dare degli indicatori con i quali giudicare la bontà di quanto realizzato.

Una volta che l’algoritmo comincia a funzionare, nei casi più sofisticati come Alexa di Amazon ma molti altri, di solito ci sono un piccolo “esercito” di “taggatori” che hanno il compito di analizzare la risposta dell’algoritmo (in realtà le incertezze o i casi nei quali la risposta sia stata errata) e di indicare la risposta giusta affinché l’algoritmo possa impararla. Questo è facile finché devo decidere tra una pallina molto nera e una molto bianca ma se mi trovo di fronte ad una pallina grigia può diventare più complicato attribuirgli la classe bianca o nera. In questo caso il taggatore o esprime una sua valutazione o, spesso, esprime una sua valutazione sulla base di indicazioni fornite dal cliente e qui si crea di nuovo il problema dei criteri dell’algoritmo.

Dunque, i risultati di un sistema di intelligenza artificiale non sono solo l’applicazione di una tecnica ma l’applicazione di criteri di giudizio e valutazione, esperienza e capacità di comprendere la vera natura del problema. In un progetto di Intelligenza Artificiale l’informatica centra poco o comunque il giusto, come c’entrano poco anche alcune conoscenze tecniche matematiche. Ciò che è importante è la capacità di conoscere sino in fondo il problema e la capacità e l’esperienza di applicare particolari tecniche matematiche di valutazione dei risultati e dei dati di ingresso.

L’etica dei sistemi di IA

I sistemi di IA acquisiscono una loro etica che gli viene in un certo senso indotta dal tema di ricerca. Tutti quanti abbiamo ormai giocato con ChatGPT e ci siamo divertiti a fare domande o considerazioni di ogni tipo per coglierlo in fallo, un po’ come si faceva con i bambini per fargli dire una parolaccia e poi riderci su (almeno alla mia generazione si faceva). Ecco se ci si fa caso ChatGPT risponde sempre con un modo “buonista”, non dice parolacce (bisogna aggirare le sue barriere), ci propone valori e stili di vita aperti, inclusivi, liberali, democratici, ecc. Eppure, il mondo non è così, nella realtà c’è di tutto e basta andare un attimo su Internet per rendersi conto che non è detto che i valori “buonisti” siano la maggioranza. Malgrado questo ChatGPT è stato addestrato per non uscire mai dai “binari della correttezza”, se fosse addestrato sul Dark Web risponderebbe probabilmente in modo totalmente differente ma non sarebbe socialmente sostenibile.

Recentemente Meta ha rilasciato una nuova versione di un suo LLM e richiama l’attenzione sul fatto che il modello potrebbe esporre contenuti pericolosi.

L’IA ha opinioni politiche?

Una recente ricerca “From Pretraining Data to Language Models to Downstream Tasks: Tracking the Trails of Political Biases Leading to Unfair NLP Models” ha messo a confronto differenti LLM con le opinioni politiche arrivando alla conclusione che I diversi LLM hanno tendenze differenti e ad esprimerle in modo sintetico.

Come si vede dalla predisposizione dei punti sui quadranti ne esce un sistema di valori molto “liberal”. Indipendentemente dalle nostre specifiche valutazioni il tema non è che questi sistemi non possano avere delle tendenze politiche o valoriali ma che noi tendiamo ad utilizzarli pensando che non li abbiano.

I modelli di LLM, con i loro sistemi di valori e criteri differenti di rappresentazione della realtà, hanno questo rischio ma si celano dietro un manto di neutralità della tecnica.

Le risorse necessarie a mettere a punto un LLM ad oggi sono molto costose, soprattutto in termini di elaborazione dei dati. Questo limita la creazione di molti modelli diversi e facilita la concentrazione. Vari paesi stanno cominciando ad interrogarsi per dare risposte, in Cina sono stati posti dei vincoli ai criteri di addestramento e ai risultati. I vari LLM che prenderanno piede non potranno andare contro le idee sociali predominanti (lo stato socialista), essere offensive e via dicendo. Un altro approccio potrebbe prevedere, per esempio, delle risorse pubbliche a disposizione di ricercatori o dei team che vogliono sviluppare LLM.

Se pensiamo ad esempio in Italia il CINECA potrebbe rendere disponibili le sue capacità elaborative per essere messe a disposizione col vincolo che poi gli LLM dovrebbero essere a disposizione del pubblico e resi pubblici i criteri e vincoli di addestramento.

A tutto questo si aggiunge un recente studio dal titolo “How Is ChatGPT’s Behavior Changing over Time?” che secondo i ricercatori dimostra come la performance di GPT4.0 stia peggiorando con il tempo mentre la versione 3.5 non avrebbe questi problemi. I ricercatori fanno notare come il modello chiuso adottato da OpenAI non consenta di avere trasparenza sui criteri di addestramento e affinazione e l’unica valutazione che è possibile è “black box” ovvero testando il sistema dall’esterno.

Conclusioni

In conclusione, diciamo che i LLM sono una enorme potenzialità che sta ancora alle prime armi, escono nuovi modelli mensilmente e si affinano nuove tecniche per addestrare i modelli con meno risorse e meno dati di input.

Quello che è importante ricordare è che dietro ogni tecnologia c’è un sistema di valori e che non dobbiamo completamente affidarci a questi sistemi. Differenti sistemi di valori non significa che uno funziona e l’altro no perché possono esserci diverse strade per arrivare alla soluzione.

Copernico quando propose il suo sistema di calcolo che vedeva al centro il sole e non la terra non voleva rimettere in discussione la dottrina scientifica tolemaica in voga sino a quel momento. Semplicemente Copernico aveva esplorato un modo per semplificare il calcolo delle orbite dei pianeti, anche il sistema tolemaico funzionava perfettamente ma era solo più complicato. Solo anni più tardi, con Galileo, si arrivò a conferme che costarono torture e abiura a quest’ultimo.

È necessario che i modelli LM debbano essere sempre di più pubblici (nel senso che si possano conoscere i criteri con i quali sono stati creati) e i criteri di realizzazione siano chiari. È necessario che si conoscano gli autori, le loro idee del mondo, le idee del mondo delle loro aziende. È necessario che quando approcciamo un problema da affrontare con queste tecnologie si analizzi il tipo di problema e si applichi il modello più adatto con la consapevolezza che il sistema che risponde a tutto bene senza rischi non esiste e per ora non si vede all’orizzonte.

Utilizzare LLM sarà sempre più inevitabile ma è necessario e urgente ancora di più modificare il nostro approccio all’informatica e alla tecnica verso un occhio sempre più critico ma non diffidente. Conoscere le tecnologie sapendo che possono surrettiziamente imporci un sistema di valori, abitudini, comportamenti e cercare di comprendere cosa c’è sotto la superficie, approfondire e valutare è sempre più importante. L’esperto di digitalizzazione del futuro dovrà essere meno “bit&byte”, più capace di andare a fondo comprendendo cosa c’è dietro la tecnologia, come funziona realmente e quali sono le sue implicazioni all’interno delle organizzazioni. Non lasciare una tecnologia sempre più pervasiva nella nostra vita in mano ai tecnici e agli ingegneri ma riportarla a strumento per far vivere meglio la società.

 

  1. https://www.mturk.com/

Speciale PNRR

Tutti
Incentivi
Salute digitale
Formazione
Analisi
Sostenibilità
PA
Sostemibilità
Sicurezza
Digital Economy
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati

Articolo 1 di 2