SOCIAL MEDIA

Intelligenza artificiale alla sfida hating: bene ma non benissimo

Cantieri aperti in tutto il mondo sulle tecnologie anti-odio online. In prima linea i team di ricerca che utilizzano sistemi di AI in grado di individuare su miliardi di post e messaggi le parole bersaglio. Prossimo step il riconoscimento del “tono” contenutistico: ma la strada è ancora lunga

16 Giu 2020
Sara Tonelli

head of the Digital Humanities research group at FBK

hatespeechis

Aumenta la diffusione delle piattaforme social, aumenta il fenomeno dello hate speech. Uno degli “effetti collaterali” della comunicazione online oggi al centro di misure di contenimento sia regolatorie che aziendali. Vediamo a che punto siamo nella ricerca di tecnologie in grado di migliorare la cultura digitale.

Contromisure attuate da governi e social

L’uso di social network come Twitter, Facebook e Instagram ha aumentato enormemente il numero di interazioni online, collegando miliardi di utenti, favorendo lo scambio di opinioni e dando visibilità a idee che sarebbero altrimenti ignorate dai media tradizionali. Tuttavia, ciò ha portato anche a un aumento degli attacchi contro gruppi specifici di utenti in base alla loro religione, etnia o status sociale e le persone spesso faticano ad affrontare le conseguenze di tali attacchi. Per alcuni soggetti particolarmente deboli come gli adolescenti, essere oggetto di attacchi online ripetuti nel tempo, un fenomeno anche noto come cyberbullismo, può portare a conseguenze psicologiche negative, disordini affettivi, problemi nell’apprendimento e in alcuni casi può condurre le vittime anche a gesti estremi.

WEBINAR
13 Dicembre 2022 - 12:00
Un caso virtuoso di Digital Marketing nel Manufacturing: KPI e obiettivi - WEBINAR
Digital Transformation
Manifatturiero/Produzione

Vista la portata del problema, anche stakeholder come governi e piattaforme di social media hanno deciso di correre ai ripari. Per esempio, Facebook, Twitter, YouTube e Microsoft hanno firmato nel 2016 un codice di condotta, proposto dall’Unione Europea, impegnandosi a prendere in esame la maggior parte delle segnalazioni degli utenti relative a post d’odio in meno di 24 ore, e applicando provvedimenti immediati in caso di abusi. I social network si stanno quindi dotando di team che, in modo manuale, verificano le segnalazioni degli utenti e prendono decisioni riguardo ad account da sospendere o post da oscurare.

Ma è davvero sufficiente? In un mondo in cui sempre più persone hanno accesso a Internet, e quindi possono crearsi un profilo social, un lavoro completamente manuale di controllo e contenimento dell’odio online è impensabile. Nell’ultimo anno e mezzo, per esempio, un monitoraggio di Twitter relativo al tema dell’islamofobia svolto all’interno del progetto europeo HATEMETER ha identificato più di 250.000 tweet postati in italiano e contenenti hashtag islamofobici come #stopIslam o #NoMoschee, provenienti da 48.000 profili diversi. Considerato che in Italia solo una piccola minoranza di persone utilizza Twitter, mentre la maggior parte degli utenti attivi online ha un profilo Facebook o Instagram, il fenomeno ha chiaramente raggiunto una portata preoccupante.

La quantità di dati circolanti e profili esistenti necessita di tecnologie automatiche per essere monitorati, classificati ed eventualmente oscurati, lasciando ampio spazio allo sviluppo di software che supportino le persone in questa attività.

Intelligenza artificiale contro l’hating online

E’ qui che lIntelligenza artificiale può intervenire grazie agli sviluppi recenti nell’ambito del deep learning, che permette di sfruttare la grande mole di dati circolanti per allenare sistemi che riconoscano in modo automatico i messaggi d’odio. Il paradigma è semplice: un sistema automatico non è dotato di intelligenza propria, ma può imparare a simulare il comportamento di una persona che si trova a dover giudicare il contenuto di messaggi d’odio. Il computer può quindi apprendere questo comportamento dopo aver ricevuto in input qualche migliaio di messaggi classificati come più o meno offensivi. Anche se la annotazione iniziale di questi messaggi deve essere fatta necessariamente a mano, e quindi può risultare dispendiosa, il modello che il computer apprenderà può essere poi applicato a centinaia di milioni di messaggi postati online per quella lingua. Quindi un limitato sforzo iniziale può avere un impatto potenziale su una buona parte del web.

La portata di questa automazione, insieme a interessi economici degli stakeholder attivi nell’ambito dei social network, ha spinto la comunità di ricerca che si occupa di intelligenza artificiale applicata all’analisi del testo verso lo sviluppo e la valutazione di sistemi per il riconoscimento di messaggi d’odio online. Confrontare approcci diversi e capire qual è il più promettente è spesso difficile. Per questo sono nate negli ultimi anni campagne di valutazione pensate proprio per individuare l’odio online, competizioni scientifiche tra ricercatori in cui diversi team di ricerca sono chiamati a misurare le performance dei propri sistemi sugli stessi dati.

Solo così è possibile confrontare l’accuratezza dei software e comprendere, tra le varie possibilità, qual è l’approccio più promettente. Per esempio, l’ultima campagna organizzata per l’italiano, l’”Hate Speech Detection task” (HaSpeeDe) ha visto la partecipazione di 9 team di ricerca provenienti sia dall’Italia che dall’estero, un numero che, per una comunità relativamente piccola come quella italiana, è indice di grande interesse. Campagne simili sono state organizzate anche a livello internazionale, sia su inglese e spagnolo che su altre lingue meno presenti online come lo svedese o il polacco.

Ironia: l’algoritmo non la capisce (per ora)

I sistemi sviluppati hanno ormai raggiunto un’accuratezza intorno all’80%, tant’è vero che da un paradigma iniziale in cui si identificavano genericamente i messaggi d’odio ci si è spostati di recente verso sistemi più sofisticati, che identificano anche qual è il target d’odio e di conseguenza il tipo di offesa (misoginia, omofobia, islamofobia, antisemitismo, ecc.). Un sistema basato su intelligenza artificiale che identifica messaggi d’odio replicando nell’80% dei casi il giudizio che darebbe una persona reale è sicuramente un risultato promettente. Ma il restante 20% contiene contenuti che presentano problemi ancora particolarmente sfidanti per le tecnologie attuali.

Per esempio, riconoscere umorismo, ironia e sarcasmo è ancora una sfida aperta per l’intelligenza artificiale, ma è un compito necessario per capire se una parolaccia è usata in modo bonario o offensivo, o se un apprezzamento apparentemente positivo in realtà nasconde una critica perché sarcastico.

Un altro elemento studiato fino ad ora solo marginalmente è l’interazione tra diversi tipi di media che possono comporre un post. Il successo delle stories su Instagram, o di social network diffusi tra i giovanissimi come TikTok e Musical.ly, ha evidenziato la necessità di sviluppare tecnologie che analizzino e comprendano il contenuto di immagini e video in modo simile a quello fatto per i messaggi d’odio testuali. Ancora più importante è capire in che modo informazioni multimediali possano essere combinate per interpretare il contenuto di un post online: spesso il commento a un’immagine postata su Instagram può essere interpretato solo capendo chi è il soggetto dell’immagine e qual è l’aspetto che è oggetto del commento.

Per esempio, il calcio è uno dei principali temi che viene preso a pretesto per diffondere messaggi online. Capire che un ragazzino che pubblica una sua immagine su Instagram viene preso di mira non per il soggetto in sé ma perché indossa la maglia di una squadra rappresenta una sfida per l’intelligenza artificiale, ma anche una delle premesse perché si possa comprendere appieno il fenomeno dell’odio online per poi intervenire in modo efficace.

@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
Salute digitale
Formazione
Analisi
Sostenibilità
PA
Sostemibilità
Sicurezza
Digital Economy
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati