BAIDU

Ecco il chatbot cinese, nuova arma di controllo sociale

Ernie di Baidu. La versione cinese di ChatGPT. Non è stato accolto con lo stesso entusiasmo dell’omologo occidentale. Molto tempo e denaro son stati spesi a fare in modo che rispettasse i diktat della censura. Ma non illudiamoci: presto l’AI generativa diventerà un nuovo, potente strumento per il controllo della popolazione

Pubblicato il 23 Mar 2023

Riccardo Berti

Avvocato e DPO in Verona

Franco Zumerle

Avvocato Coordinatore Commissione Informatica Ordine Avv. Verona

ricerca bing chatgpt

Il 16 marzo scorso Baidu, l’omologo cinese di Google, ha presentato la sua alternativa a ChatGPT, ovvero Ernie bot, un chatbot che per ora è in fase di test ed accessibile su invito (mentre le API sono riservate ad utenti aziendali) e che come ChatGPT sottende ad un modello linguistico addestrato con varie tecniche di intelligenza artificiale che è in grado di simulare risposte e conversazioni “intelligenti” con gli

utenti.https://www.agendadigitale.eu/cultura-digitale/chatgpt-4-che-fare-con-la-nuova-intelligenza-artificiale/

Nonostante una presentazione in pompa magna e il fatto che l’azienda abbia rimarcato la studiata localizzazione del prodotto per il pubblico cinese (il chatbot parla anche i vari dialetti del paese), Ernie è stato accolto tiepidamente essendo evidente che si tratta di uno strumento è ancora indietro rispetto al più famoso chatGPT.

Il vero problema però, secondo molti, deriva dal fatto che Ernie si deve piegare alla rigorosa censura imposta da Pechino.

Ma andiamo per gradi.

La tiepida reazione all’uscita di Ernie

Che Ernie non sia stato proprio un successo è ben dimostrato dalla reazione dei mercati, con Baidu che ha perso quasi sette punti percentuali alla borsa di Hong Kong alla fine della presentazione di Ernie.

Del resto era difficile farsi impressionare dai video preregistrati (niente live demo) che sono stati mostrati durante la presentazione e che mostrano Ernie eseguire calcoli matematici, appunto parlare vari dialetti cinesi e generare video ed immagini.

A questo si sono aggiunte le parole del CEO di Baidu, Robin Li, il quale durante la presentazione ha ammesso che il loro sistema non è ancora perfetto, che è progettato per la lingua cinese e non lavora altrettanto bene con l’inglese e che è stato comunque presentato “perché il mercato lo richiedeva”.

In buona sostanza è stato lo stesso CEO di Baidu ad ammettere il ritardo della sua azienda nello sviluppo del chatbot, che è stato ugualmente presentato solo a causa della pressione della concorrenza.

Nonostante questo l’esperimento cinese è di sicuro interessante, specie considerando le complessità dovute alla localizzazione in mandarino di uno strumento di questo genere e il fatto che questo chatbot diventerà probabilmente un punto di riferimento nell’evoluzione del settore in Cina, con molte aziende di rilievo che hanno in programma di implementarlo nelle loro strutture (ad esempio China CITIC Bank, il National Museum of China e il quotidiano Global Times), con 30.000 sviluppatori che hanno richiesto di avere accesso alle API di Ernie nelle ore immediatamente successive alla presentazione e soprattutto con l’aperto supporto del governo cinese, che stando alla presentazione faciliterà l’accesso allo strumento agli sviluppatori locali.

Cosa è Ernie

Cominciamo con precisare che “Ernie” non è il vero nome di questa intelligenza artificiale, ma è solamente il nome proposto da Baidu per il pubblico occidentale, l’intelligenza artificiale in realtà si chiama wénxīn yīyán (文心一言), ovvero un lemma composto dalle parole wén (cultura, lingua) xīn (cuore, centro) e yīyán (breve frase) e che rimanda al concetto di concentrato di sapere.

Le informazioni sul suo sviluppo sono poche anche se il CEO di Baidu ha parlato di dieci anni di lavoro su questo strumento, che stando sempre alla presentazione è una intelligenza artificiale perfezionata (come chat-GPT) con tecniche di apprendimento supervisionato e per rinforzo (la presentazione non menziona un omologo al punto di forza di chat-GPT, ovvero la Proximal Policy Optimization (PPO) che aiuta a “qualificare” e “quantificare” il rinforzo in maniera efficiente nel modello sviluppato da Open-AI), prompt learning (tecnica utilizzata per consentire ad una intelligenza artificiale di essere utilizzata per più scopi differenti senza necessità di un retraining), knowledge enhancement (di fatto un potenziamento basato sulla tecnica del knowledge graph che consente, proprio per la connessione in un grafo di termini semantici, un apprendimento multi relazionale dell’intelligenza artificiale e, sul punto, Baidu si vanta di aver sviluppato il più grande grafo di conoscenza del mondo, con oltre 550 miliardi di relazioni) a cui si aggiungono meccanismi più vaghi come , retrieval augmentation, e dialogue augmentation.

Durante la presentazione si è in particolare fatto riferimento alla capacità di Ernie di generare immagini, audio e video da un testo, con una generazione multi-modale frutto proprio del prompt learning.

Una immagine tratta dalla presentazione di Ernie in cui il chatbot genera un video

Le feature di Ernie però, complice la quasi contestuale presentazione di chat-GPT4, la nuova iterazione dell’IA di Open AI, che presenta novità non avvicinabili dal chatbot cinese, non sono bastate a generare nel pubblico (e soprattutto negli investitori) lo sperato effetto “wow”, spingendo molti a domandarsi perché la Cina sia rimasta indietro in un settore in cui sembrava al passo con gli USA.

Nemmeno gli altri colossi tech cinesi sembrano in grado di scalfire la supremazia statunitense nel settore, con Alibaba, Huawei e JD.com, che sono ancora nella fase di sviluppo dei loro chatbot potenziati dall’intelligenza artificiale, senza una data di lancio precisa.

Verosimilmente però quando questi player presenteranno i rispettivi prodotti il mercato si popolerà di concorrenti, alimentando la competizione nel settore anche nel regno di mezzo.

Il problema della censura

Ernie è solo l’ultimo arrivato di una serie di chatbot più rudimentali che, in Cina, hanno cercato di confrontarsi con le intelligenze artificiali generative specializzate nella conversazione con l’utente umano sviluppate principalmente negli USA.

Tutti questi strumenti scontano però un problema di fondo ovvero la necessità di soddisfare gli stringenti limiti imposti dalla censura cinese.

Questo arduo compito secondo molti ha contribuito al ritardo della Cina nel settore, scoraggiando le imprese dall’investire in una tecnologia così rischiosa da diffondere.

Se pensiamo alla poca fortuna che ha avuto Microsoft con il suo chatbot Tay nel 2016, una intelligenza artificiale che dopo essere stata esposta per poche ore al pubblico di Twitter ha iniziato a giustificare il nazismo, ad attribuire l’11 settembre al presidente Bush e a negare l’olocausto, ci rendiamo conto del fatto che la stessa esperienza se accadesse in Cina comporterebbe conseguenze ben più incisive per la sfortunata azienda che avesse avuto la malaugurata idea di mettere online un simile chatbot.

L’Intelligenza artificiale sfida il buon senso e le emozioni: ecco perché

Proprio per questo le varie intelligenze artificiali che hanno preceduto Ernie apparivano molto più efficaci nell’evitare argomenti sgraditi al potere che nel fornire risposte agli utenti con cui interagivano.

Di fatto dal lato degli sviluppatori questo vuol dire dedicare una fetta importantissima di investimenti e di sviluppo all’operazione di bonifica dei modelli linguistici sviluppati affinché questi rispettino i diktat della censura cinese (che peraltro si evolve in maniera dinamica e reattiva, per rispondere alle evoluzioni del c.d. “algospeak” cinese con cui i netizens della terra di mezzo cercano sempre parole diverse per affrontare gli argomenti tabu senza incorrere in guai, e costringe quindi indirettamente gli sviluppatori di queste intelligenze artificiali anche ad una continua attività di “sorveglianza” del loro prodotto)

Il partito comunista infatti è estremamente attento al fenomeno tecnologico tanto da aver già introdotto normative che da un lato puntano ad asservire le grandi piattaforme alle esigenze repressive di Pechino (imponendo ad esempio di segnalare un utente che dovesse fare insistenti ricerche su argomenti scomodi) e dall’altro puntano ad evitare che queste stesse grandi piattaforme possano diventare delle zone franche e sottratte all’invasivo controllo del partito (che peraltro teme l’influenza di questi colossi del web).

Nel 2022 ad esempio è entrato in vigore un regolamento in tema di algoritmi che impegna le piattaforme a promuovere “algoritmi per il bene”, e in questa breve formula è contenuto anche l’implicito ordine di non sfruttare queste tecnologie per aggirare le normative di partito (tese appunto al bene della popolazione cinese).

Del resto anche il legislatore europeo propugna, con il pacchetto Digital Services Act, l’idea che ciò che è illegale offline deve essere illegale anche online, la Cina ragiona allo stesso modo, solo che ciò che è illegale offline in Cina è molto diverso da quello con cui siamo abituati a confrontarci noi occidentali.

Prospettive dell’AI generativa in Cina

Che la censura cinese sia un ostacolo ed una sfida verso la realizzazione di una AI efficace appare indubbio e non si può certo dubitare del fatto che sia mancato ad Ernie l’”effetto wow” anche a causa del fatto che, anche in questo caso, gli sviluppatori abbiano dovuto dedicare molto tempo (e risorse) a rimodulare il loro modello di intelligenza artificiale per non fargli dire cosa sgradite al partito.

Ma non bisogna pensare che questo ostacolo sia così negativo per le imprese cinesi, specie nel medio-lungo periodo. Se le aziende del paese riescono efficacemente a superare questo ostacolo infatti avranno un vantaggio concorrenziale notevole rispetto alle imprese che si occupano del settore nel resto del mondo.

Non dimentichiamo che la prospettiva occidentale ha già affrontato con miopia un’altra evoluzione tecnologica epocale, che sembrava destinata, agli albori, a diventare veicolo di democrazia e pluralità di informazione.

Di fronte ad internet, nel 1994, Bill Clinton augurava buona fortuna al censore cinese che si accingeva a cimentarsi nell’ardua impresa di controllare il web. Nella metafora dell’allora presidente americano si trattava di un’impresa paragonabile all’inchiodare della gelatina al muro.

Pochi anni dopo era però già chiaro che i cinesi non solo erano stati in grado di inchiodare la gelatina al muro, ma erano stati in grado di rendere internet un efficace e tentacolare strumento di controllo e repressione.

Allo stesso modo l’evoluzione dell’intelligenza artificiale, che il partito vuole per forza controllare anche rischiando di compromettere la competitività delle sue imprese, potrebbe rivelarsi per Pechino uno strumento di controllo dalle potenzialità mai viste in precedenza. Da questa “primavera” dell’intelligenza artificiale catalizzata da chatGPT potrebbe derivare una estate fatta di nuove frecce all’arco del censore cinese, in grado di controllare il suo popolo con efficacia ed incisività mai viste prima, al piccolo prezzo di un iniziale rallentamento nello sviluppo di questi sistemi nel celeste impero.

Valuta la qualità di questo articolo

La tua opinione è importante per noi!

EU Stories - La coesione innova l'Italia

Tutti
Social
Iniziative
Video
Analisi
Iniziative
Al via il progetto COINS
Eventi
Un nuovo sguardo sulla politica di coesione dell'UE
Iniziative
Parte la campagna di comunicazione COINS
Interviste
Marco De Giorgi (PCM): “Come comunicare le politiche di coesione”
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politiche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia
Iniziative
Al via il progetto COINS
Eventi
Un nuovo sguardo sulla politica di coesione dell'UE
Iniziative
Parte la campagna di comunicazione COINS
Interviste
Marco De Giorgi (PCM): “Come comunicare le politiche di coesione”
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politiche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia

Articoli correlati