hate speech

L’odio sui social è un business: ecco perché le piattaforme fanno poco per frenarlo

Tutti i social si sono impegnati a frenare il dilagare di contenuti incitanti all’odio, tuttavia è palese che non stiano facendo abbastanza. Una delle motivazioni dietro questa contraddizione va ricercata nei profitti che le aziende traggono da ogni contenuto, inclusi quelli contrari alle loro stesse policy

20 Mag 2021
Chiara Collatina

Analista Hermes Bay

Federico Ferronetti

Analista Hermes Bay

no-hate

Facebook, Twitter, Youtube e Spotify, nati come liberi strumenti di condivisione, sembra che oggi non riescano più ad arginare il continuo propagarsi di espressioni d’odio, nonostante le stringenti regole da essi stessi imposte.

È forse la monetizzazione la vera ragione dietro questo paradosso?

Cerchiamo di rispondere a questa domanda analizzando la posizione di quattro tra i social media più diffusi a livello globale.

Facebook: dall’impegno contro l’hate speech al boom del fenomeno ai tempi della pandemia

La policy di Facebook sull’incitamento all’odio stabilisce chiaramente che sulla piattaforma deve prevalere un clima di tolleranza e di rispetto tra ogni membro della community. Di conseguenza, qualsiasi contenuto che rimandi ad intolleranza di “razza, etnia, nazionalità di origine, disabilità, religione, casta, orientamento sessuale, genere, identità di genere e malattie gravi” viene attivamente monitorato e, se necessario, eliminato. È possibile creare contenuti che rimandano, ad esempio, a discorsi sull’odio, ma solo per scopi di sensibilizzazione. Pertanto, Facebook richiede ai suoi utenti di essere sempre chiari nelle loro intenzioni quando simili post vengono condivisi sulla piattaforma. Tuttavia, dato che non sempre queste intenzioni vengono apertamente dichiarate, diversi utenti possono sfruttare la presenza di contenuti incitanti all’odio per scopi illeciti, senza che i moderatori abbiano la immediata possibilità di intervenire.

Evento in presenza
SAP NOW, 20 ottobre | Sostenibilità e innovazione per un ecosistema digitale che rispetta il pianeta
Cloud
Datacenter

Nonostante l’impegno nella moderazione, l’avvento della pandemia da Covid-19 ha contribuito a un forte incremento nel numero di segnalazioni concernenti l’incitamento all’odio. Nell’ultimo trimestre 2019 i casi riportati ammontavano a 7 milioni, mentre nel primo trimestre 2020 si è passati a 9,6 milioni di casi, crescendo fino a toccare la soglia di 22,5 milioni nel secondo trimestre, in concomitanza con la diffusione globale del virus. Per contrastare più efficacemente la diffusione di simili materiali dannosi, l’azienda ha istituito una serie di task force per monitorare il flusso di contenuti. In aggiunta, Facebook sta aggiornando le proprie policy in materia, includendo nuove tipologie di discorsi impliciti di odio, come gli stereotipi sugli ebrei e sulle persone di colore.

Il declino delle democrazie nel segno del digitale: chi le salverà?

Nel 2020, il CEO di Facebook, Mark Zuckerberg, ha annunciato che l’azienda si impegnerà per bandire completamente qualsiasi pubblicità contenente qualsivoglia discriminazione. Allo stesso tempo ha indicato che la piattaforma potrebbe decidere di non cancellare contenuti in violazione delle policy aziendali se ritenuti degni di rilevanza, aggiungendo però un’etichetta di avviso su di essi.

Odio su Twitter: il caso dell’ex-presidente Usa Donald Trump

Nel caso di Twitter, nonostante la mancanza di una monetizzazione diretta dei contenuti, si riscontrano comunque diversi problemi nel bilanciare la libertà d’espressione e contenuti che violano le norme di condotta.

Vista la semplicità e immediatezza del suo utilizzo, così come il suo immenso potere di condivisione globale, Twitter rientra tra le piattaforme di social media più utilizzate di sempre, acquisendo sempre più un ruolo attivo nel campo politico di molte nazioni. Il social media ha acquisito una rilevanza ancora maggiore con l’ascesa di Donald Trump alla presidenza degli Stati Uniti nel 2016: preferendo Twitter rispetto al tradizionale e dominante Facebook, Trump è stato spesso accusato di averlo usato impropriamente, alimentando gli animi delle frange più estremiste dei suoi sostenitori. Ad esempio, in occasione dell’assalto al Campidoglio dello scorso gennaio, è stato da più parti evidenziato come i suoi post possano aver avuto un ruolo nell’istigare i manifestanti piuttosto che placarli. Proprio a seguito di questo evento, il suo account è stato prima temporaneamente, e poi definitivamente, bloccato dalla piattaforma. Secondo le parole del CEO Jack Dorsey, bannare Trump si è rivelato necessario non solo per salvaguardare il social da discorsi d’odio contrari alle proprie norme di condotta, ma anche per proteggere direttamente l’incolumità dei cittadini americani coinvolti negli scontri. Tuttavia, molti hanno evidenziato la contraddizione data dal suo tempestivo ban rispetto a contenuti talvolta ben più gravi, ma lasciati attivi sulla piattaforma anche a seguito di numerose segnalazioni.

Youtube: il guadagno vale di più dell’essere politically correct?

Nel settembre del 2019, oltre 17.000 canali e 100.000 contenuti sono stati eliminati da Youtube per aver violato le policy della piattaforma riguardo la condivisione di materiali istiganti all’odio. Nell’estate dello stesso anno, l’azienda ha riformulato la propria strategia per combattere la diffusione di video discriminatori, a causa di un clima politico sempre più polarizzato ed estremista.

A un anno dall’implementazione di questa strategia, la piattaforma ha visto una quintuplicazione delle rimozioni di video e la chiusura di oltre 25.000 canali promotori di hate speech. Tra essi figurano anche canali di personaggi influenti nel campo dell’estrema destra, come David Duke, ex-leader del Ku Klux Klan. Nonostante l’impegno portato avanti dall’azienda, emergono ancora oggi lacune nell’operato di Youtube, come testimoniato dalla vicenda del giornalista ed attivista LGBT, Carlos Maza, il quale è stato pubblicamente attaccato, per via del suo orientamento sessuale e della sua origine latina, da uno Youtuber e, nonostante ciò, tali video non sono stati immediatamente rimossi, ma solo demonetizzati. In effetti, personaggi come l’ex-Youtuber di estrema destra, Caolan Robertson, hanno raggiunto la fama creando appositamente video provocatori che stimolassero migliaia di visualizzazioni e che di conseguenza hanno fruttato lauti guadagni. La presenza di filmati incitanti all’odio, e la loro seppur temporanea monetizzazione, dimostrano che è possibile sfruttare Youtube per trarre dei profitti pur essendo in violazione delle linee guida della piattaforma, e ciò è la prova che i sistemi adottati dall’azienda sono ancora imperfetti e facilmente aggirabili.

Stando alle parole della CEO di Youtube, Susan Wojcicki, l’azienda aggiorna regolarmente le proprie policy sull’hate speech, ma gli utenti del sito trovano di continuo modi per aggirare il sistema e pubblicare filmati che confliggono con le linee guida.

Estrema destra all’assalto dello streaming musicale

Anche le piattaforme di streaming musicale, quali Spotify, Deezer, Apple Music, e Youtube Music non sono esenti da questi problemi. Tra i gruppi musicali che pubblicano le proprie tracce a livello globale, figurano anche band promotrici di messaggi inneggianti all’intolleranza contro determinate categorie, diffondendo su larga scala contenuti antisemiti, omofobi e xenofobi. Un’indagine della BBC riporta che su Spotify, la piattaforma più popolare fra quelle sopracitate, era possibile ricercare con facilità canzoni contenenti aperti riferimenti alla supremazia ariana, alla glorificazione dell’Olocausto e alla promozione di ideologie di estrema destra. Inoltre, alcune di queste band venivano associate, da attivisti per i diritti civili, a “gruppi d’odio”. La BBC specifica che Spotify si è impegnato a rimuovere terminologie come “ariano” e “bianco” dai titoli di album e canzoni, ma queste parole rimanevano comunque parte dei testi ed erano quindi facilmente ascoltabili da un vasto pubblico. Dietro ciò si cela un’incongruenza: Spotify avrebbe dovuto cancellare a priori questo materiale, ma onde salvaguardare i suoi guadagni ha deciso di mantenere sulla piattaforma canzoni di stampo razzista, aggirando la problematica della diffusione di contenuti xenofobi superficialmente, limitandosi a cambiare i titoli di quei brani riportanti termini controversi.

Conclusioni

Notoriamente i social media sono nati come luoghi dove vige la libertà di parola e pensiero. Ma come nel mondo reale, anche in quello virtuale non si possono oltrepassare determinati limiti, oltre i quali si violerebbe il contratto stipulato con il social media in questione al momento dell’iscrizione. Difatti, è sempre possibile imbattersi in contenuti che violano apertamente le leggi delle piattaforme stesse e vedere come essi possono anche diventare virali a livello globale o avere ripercussioni dirette sul mondo reale. Una domanda sorge spontanea: perché spesso si impiega un tempo così lungo per provvedere alla rimozione di questi materiali? Come aziende private, i social media devono avere una fonte di guadagno, spesso rappresentata dagli advertisements. E proprio sui contenuti virali si giocano i guadagni più elevati: più un post affronta tematiche controverse, più è capace di attirare attenzione e aumentare le sue possibilità di condivisione verso un pubblico sempre più ampio, costituendo quindi una fruttuosa fonte di guadagno per il social media.

Questa strategia risulta un paradosso: tutte le piattaforme si sono impegnate ad aumentare i controlli con il fine di proteggere i propri utenti da informazioni dannose. Tuttavia, si ritiene che non stiano facendo veramente abbastanza per frenare questa ondata di hate speech. Una delle probabili motivazioni che si cela dietro questa contraddizione può essere ricercata nei profitti che le aziende traggono da ogni contenuto, inclusi quelli che non sono conformi con le loro stesse policy.

@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articolo 1 di 2