L'odio sui social è un business: ecco perché le piattaforme fanno poco per frenarlo - Agenda Digitale

hate speech

L’odio sui social è un business: ecco perché le piattaforme fanno poco per frenarlo

Tutti i social si sono impegnati a frenare il dilagare di contenuti incitanti all’odio, tuttavia è palese che non stiano facendo abbastanza. Una delle motivazioni dietro questa contraddizione va ricercata nei profitti che le aziende traggono da ogni contenuto, inclusi quelli contrari alle loro stesse policy

20 Mag 2021
Chiara Collatina

Analista Hermes Bay

Federico Ferronetti

Analista Hermes Bay

Facebook, Twitter, Youtube e Spotify, nati come liberi strumenti di condivisione, sembra che oggi non riescano più ad arginare il continuo propagarsi di espressioni d’odio, nonostante le stringenti regole da essi stessi imposte.

È forse la monetizzazione la vera ragione dietro questo paradosso?

Cerchiamo di rispondere a questa domanda analizzando la posizione di quattro tra i social media più diffusi a livello globale.

Facebook: dall’impegno contro l’hate speech al boom del fenomeno ai tempi della pandemia

La policy di Facebook sull’incitamento all’odio stabilisce chiaramente che sulla piattaforma deve prevalere un clima di tolleranza e di rispetto tra ogni membro della community. Di conseguenza, qualsiasi contenuto che rimandi ad intolleranza di “razza, etnia, nazionalità di origine, disabilità, religione, casta, orientamento sessuale, genere, identità di genere e malattie gravi” viene attivamente monitorato e, se necessario, eliminato. È possibile creare contenuti che rimandano, ad esempio, a discorsi sull’odio, ma solo per scopi di sensibilizzazione. Pertanto, Facebook richiede ai suoi utenti di essere sempre chiari nelle loro intenzioni quando simili post vengono condivisi sulla piattaforma. Tuttavia, dato che non sempre queste intenzioni vengono apertamente dichiarate, diversi utenti possono sfruttare la presenza di contenuti incitanti all’odio per scopi illeciti, senza che i moderatori abbiano la immediata possibilità di intervenire.

quiz
[QUIZ] Sei pronto per garantire una customer connection eccellente?
CRM
Digital Transformation

Nonostante l’impegno nella moderazione, l’avvento della pandemia da Covid-19 ha contribuito a un forte incremento nel numero di segnalazioni concernenti l’incitamento all’odio. Nell’ultimo trimestre 2019 i casi riportati ammontavano a 7 milioni, mentre nel primo trimestre 2020 si è passati a 9,6 milioni di casi, crescendo fino a toccare la soglia di 22,5 milioni nel secondo trimestre, in concomitanza con la diffusione globale del virus. Per contrastare più efficacemente la diffusione di simili materiali dannosi, l’azienda ha istituito una serie di task force per monitorare il flusso di contenuti. In aggiunta, Facebook sta aggiornando le proprie policy in materia, includendo nuove tipologie di discorsi impliciti di odio, come gli stereotipi sugli ebrei e sulle persone di colore.

Il declino delle democrazie nel segno del digitale: chi le salverà?

Nel 2020, il CEO di Facebook, Mark Zuckerberg, ha annunciato che l’azienda si impegnerà per bandire completamente qualsiasi pubblicità contenente qualsivoglia discriminazione. Allo stesso tempo ha indicato che la piattaforma potrebbe decidere di non cancellare contenuti in violazione delle policy aziendali se ritenuti degni di rilevanza, aggiungendo però un’etichetta di avviso su di essi.

Odio su Twitter: il caso dell’ex-presidente Usa Donald Trump

Nel caso di Twitter, nonostante la mancanza di una monetizzazione diretta dei contenuti, si riscontrano comunque diversi problemi nel bilanciare la libertà d’espressione e contenuti che violano le norme di condotta.

Vista la semplicità e immediatezza del suo utilizzo, così come il suo immenso potere di condivisione globale, Twitter rientra tra le piattaforme di social media più utilizzate di sempre, acquisendo sempre più un ruolo attivo nel campo politico di molte nazioni. Il social media ha acquisito una rilevanza ancora maggiore con l’ascesa di Donald Trump alla presidenza degli Stati Uniti nel 2016: preferendo Twitter rispetto al tradizionale e dominante Facebook, Trump è stato spesso accusato di averlo usato impropriamente, alimentando gli animi delle frange più estremiste dei suoi sostenitori. Ad esempio, in occasione dell’assalto al Campidoglio dello scorso gennaio, è stato da più parti evidenziato come i suoi post possano aver avuto un ruolo nell’istigare i manifestanti piuttosto che placarli. Proprio a seguito di questo evento, il suo account è stato prima temporaneamente, e poi definitivamente, bloccato dalla piattaforma. Secondo le parole del CEO Jack Dorsey, bannare Trump si è rivelato necessario non solo per salvaguardare il social da discorsi d’odio contrari alle proprie norme di condotta, ma anche per proteggere direttamente l’incolumità dei cittadini americani coinvolti negli scontri. Tuttavia, molti hanno evidenziato la contraddizione data dal suo tempestivo ban rispetto a contenuti talvolta ben più gravi, ma lasciati attivi sulla piattaforma anche a seguito di numerose segnalazioni.

Youtube: il guadagno vale di più dell’essere politically correct?

Nel settembre del 2019, oltre 17.000 canali e 100.000 contenuti sono stati eliminati da Youtube per aver violato le policy della piattaforma riguardo la condivisione di materiali istiganti all’odio. Nell’estate dello stesso anno, l’azienda ha riformulato la propria strategia per combattere la diffusione di video discriminatori, a causa di un clima politico sempre più polarizzato ed estremista.

A un anno dall’implementazione di questa strategia, la piattaforma ha visto una quintuplicazione delle rimozioni di video e la chiusura di oltre 25.000 canali promotori di hate speech. Tra essi figurano anche canali di personaggi influenti nel campo dell’estrema destra, come David Duke, ex-leader del Ku Klux Klan. Nonostante l’impegno portato avanti dall’azienda, emergono ancora oggi lacune nell’operato di Youtube, come testimoniato dalla vicenda del giornalista ed attivista LGBT, Carlos Maza, il quale è stato pubblicamente attaccato, per via del suo orientamento sessuale e della sua origine latina, da uno Youtuber e, nonostante ciò, tali video non sono stati immediatamente rimossi, ma solo demonetizzati. In effetti, personaggi come l’ex-Youtuber di estrema destra, Caolan Robertson, hanno raggiunto la fama creando appositamente video provocatori che stimolassero migliaia di visualizzazioni e che di conseguenza hanno fruttato lauti guadagni. La presenza di filmati incitanti all’odio, e la loro seppur temporanea monetizzazione, dimostrano che è possibile sfruttare Youtube per trarre dei profitti pur essendo in violazione delle linee guida della piattaforma, e ciò è la prova che i sistemi adottati dall’azienda sono ancora imperfetti e facilmente aggirabili.

Stando alle parole della CEO di Youtube, Susan Wojcicki, l’azienda aggiorna regolarmente le proprie policy sull’hate speech, ma gli utenti del sito trovano di continuo modi per aggirare il sistema e pubblicare filmati che confliggono con le linee guida.

Estrema destra all’assalto dello streaming musicale

Anche le piattaforme di streaming musicale, quali Spotify, Deezer, Apple Music, e Youtube Music non sono esenti da questi problemi. Tra i gruppi musicali che pubblicano le proprie tracce a livello globale, figurano anche band promotrici di messaggi inneggianti all’intolleranza contro determinate categorie, diffondendo su larga scala contenuti antisemiti, omofobi e xenofobi. Un’indagine della BBC riporta che su Spotify, la piattaforma più popolare fra quelle sopracitate, era possibile ricercare con facilità canzoni contenenti aperti riferimenti alla supremazia ariana, alla glorificazione dell’Olocausto e alla promozione di ideologie di estrema destra. Inoltre, alcune di queste band venivano associate, da attivisti per i diritti civili, a “gruppi d’odio”. La BBC specifica che Spotify si è impegnato a rimuovere terminologie come “ariano” e “bianco” dai titoli di album e canzoni, ma queste parole rimanevano comunque parte dei testi ed erano quindi facilmente ascoltabili da un vasto pubblico. Dietro ciò si cela un’incongruenza: Spotify avrebbe dovuto cancellare a priori questo materiale, ma onde salvaguardare i suoi guadagni ha deciso di mantenere sulla piattaforma canzoni di stampo razzista, aggirando la problematica della diffusione di contenuti xenofobi superficialmente, limitandosi a cambiare i titoli di quei brani riportanti termini controversi.

Conclusioni

Notoriamente i social media sono nati come luoghi dove vige la libertà di parola e pensiero. Ma come nel mondo reale, anche in quello virtuale non si possono oltrepassare determinati limiti, oltre i quali si violerebbe il contratto stipulato con il social media in questione al momento dell’iscrizione. Difatti, è sempre possibile imbattersi in contenuti che violano apertamente le leggi delle piattaforme stesse e vedere come essi possono anche diventare virali a livello globale o avere ripercussioni dirette sul mondo reale. Una domanda sorge spontanea: perché spesso si impiega un tempo così lungo per provvedere alla rimozione di questi materiali? Come aziende private, i social media devono avere una fonte di guadagno, spesso rappresentata dagli advertisements. E proprio sui contenuti virali si giocano i guadagni più elevati: più un post affronta tematiche controverse, più è capace di attirare attenzione e aumentare le sue possibilità di condivisione verso un pubblico sempre più ampio, costituendo quindi una fruttuosa fonte di guadagno per il social media.

Questa strategia risulta un paradosso: tutte le piattaforme si sono impegnate ad aumentare i controlli con il fine di proteggere i propri utenti da informazioni dannose. Tuttavia, si ritiene che non stiano facendo veramente abbastanza per frenare questa ondata di hate speech. Una delle probabili motivazioni che si cela dietro questa contraddizione può essere ricercata nei profitti che le aziende traggono da ogni contenuto, inclusi quelli che non sono conformi con le loro stesse policy.

@RIPRODUZIONE RISERVATA

Articolo 1 di 4