Digital policies

Moderazione dei contenuti social: cosa sappiamo sulle liste di “intoccabili”

La conferma dell’esistenza di gruppi di utenti e aziende intoccabili dai moderatori di contenuti online, come dimostrato nel caso del programma XCheck di Facebook e di Project Guardian di Twitter, solleva nuovi interrogativi sui limiti “nascosti” della libertà di espressione posti dalle piattaforme digitali

13 Dic 2021
Jacopo Franchi

Web content strategist, scrittore, autore del blog “Umanesimo Digitale”

Le regole di moderazione dei contenuti sui social sono uguali per tutti? L’inchiesta sui “Facebook Files” pubblicata dal Wall Street Journal ha svelato l’esistenza di XCheck, un programma comprendente una lista di circa sei milioni di persone in tutto il mondo sottoposte a un doppio sistema di valutazione da parte dei moderatori dei contenuti.

Moderatori social, lavoratori “obsoleti” ma indispensabili: chi sono gli invisibili della rete

Sembrerebbe che Facebook abbia deliberatamente deciso di escludere sei milioni di vip, “celebrities”, influencer, politici e altri personaggi pubblici dal controllo dei moderatori di contenuti, pur a fronte di evidenti violazione delle proprie stesse regole di condotta, riservandosi la possibilità di scegliere caso per caso se e quando rimuovere un’utenza o un contenuto pubblicato da uno dei “privilegiati” inclusi nel programma XCheck. Secondo le fonti, i soli contenuti pubblicati da questi ultimi e poi rimossi sarebbero stati visti 16 miliardi di volte, per non parlare di quelli non rimossi malgrado evidenti violazioni delle policies della piattaforma.

Ma i social media possono continuare a disporre liberamente del potere rimuovere contenuti e account di persone accusate di violare le loro regole di policy, dopo che per anni queste stesse persone sono state lasciate libere di pubblicare qualsiasi contenuto a propria discrezione? L’esempio, paradigmatico in questo senso, è quello dell’ex presidente Donald Trump i cui account Facebook e Twitter sono stati dapprima limitati e poi congelati in seguito agli eventi di Capitol Hill del 6 gennaio scorso.

A distanza di mesi da questo evento unico nella storia dei nuovi media digitali, non è ancora stata trovata una risposta definitiva alla domanda: forse, perché ancora oggi il numero di coloro che sono temporaneamente esentati dalle regole di moderazione delle piattaforme digitali è tuttora ignoto.

Moderazione dei contenuti social: il conflitto di interesse tra piattaforme e utenti “vip”

Sebbene ancora oggi sia impossibile affermare con certezza l’esistenza di programmi simili in altre piattaforme social, è indubbio che i sospetti in tal senso siano sempre più giustificati: personaggi pubblici, aziende, influencer e altri “fenomeni” del web sono dopotutto coloro che stimolano gli utenti “comuni” a connettersi a una piattaforma in luogo di un’altra, oltre a essere spesso importanti inserzionisti e testimonial di queste ultime anche al di fuori del mondo digitale. Non sorprende, quindi, che pochi mesi dopo la scoperta di Xcheck di Facebook, una nuova inchiesta abbia svelato l’esistenza di un programma simile – Project Guardian – finalizzato a tutelare gli utenti più in vista di Twitter da possibili abusi, accelerando il processo di revisione dei contenuti in presenza di giornalisti, politici, celebrities e altre migliaia di utenti selezionati in maniera del tutto arbitraria e senza alcuna trasparenza nei confronti degli utenti esclusi dal programma.

WHITEPAPER
Clienti soddisfatti e fidelizzati? Ecco come fare un e-commerce di successo!
Big Data
Marketing

Il conflitto di interesse tra piattaforme e utenti “vip” non è mai stato risolto, e non vi è dubbio che i moderatori di TikTok, LinkedIn, Twitter, YouTube o Pinterest debbano a propria volta seguire determinate regole quando in gioco vi è l’eliminazione di account da migliaia o milioni di follower o che spendono mensilmente un budget rilevante in termini di ADS.

Cancellare un “vip”, tanto più se quest’ultimo è cliente della piattaforma e dispone di altri media con cui manifestare dissenso nei confronti di un intervento di censura, non è mai una decisione priva di conseguenze per chi la compie. Soprattutto se quest’ultimo è un moderatore privo di particolari competenze e responsabilità al di fuori della piattaforma che lo paga il minimo indispensabile per pochi mesi di lavoro.

Moderazione dei contenuti social: la colpa non è sempre dell’algoritmo

Sul programma XCheck è in atto un processo di revisione interno: il tribunale “supremo” di Facebook, l’Oversight Board , ha chiesto maggiori approfondimenti sul sistema e sui criteri che portano gli account e le pagine a essere inseriti nella speciale “whitelist”. Ma non altrettanto sembra essersi messo in moto al di fuori dei confini della piattaforma.

Eppure, non è difficile provare a ricollegare l’esistenza, documentata o solo sospettata, di liste di “intoccabili”, con i problemi in atto da anni su questa e altre piattaforme digitali: se le segnalazioni degli utenti non sortiscono alcun effetto, se i moderatori di contenuti sono messi nella condizione di non poter agire verso determinate pagine e persone più importanti di altre, se le piattaforme possono decidere arbitrariamente se, quando e in che misura far rispettare le proprie stesse regole, diventa abbastanza inutile domandarsi se e quando contenuti d’odio, fake o razzisti perderanno di rilevanza. Dopo aver dato per anni la colpa agli algoritmi, rei di diffondere contenuti in maniera fortemente ineguale, forse è il caso di domandarsi se anche questi ultimi non siano dopotutto impotenti di fronte al fatto che certi contenuti sono comunque ammessi “a prescindere” da qualsiasi regola stabilita a monte.

Mai litigare sui social con un “vip” se è inserito nel programma “giusto”

Pensare che il tema sia lontano dagli eventi di cronaca, dalla vita quotidiana, dalla sicurezza e dalla salute delle persone comuni è fondamentalmente errato: tra gli utenti tutelati da Xcheck vi sarebbe stato, come riportato tra gli altri anche dal The Guardian, il giocatore del PSG Neymar, il quale avrebbe pubblicato sui propri account Facebook e Twitter le chat private scambiate con una donna che lo aveva accusato di stupro, condividendo pubblicamente di fronte a decine di milioni di persone nome e foto di nudo della presunta vittima.

Anziché cancellare il contenuto, palesemente contrario alle regole di Facebook sulla condivisione non consensuale di immagini intime, i moderatori sono stati neutralizzati per oltre un giorno dall’intervenire su un evento in seguito definito come uno dei più classici casi di “revenge porn”. Detto altrimenti: lo scontro quotidiano in atto sui social tra personaggi pubblici e signori “nessuno” è da sempre sbilanciato dalla parte dei primi, resi intoccabili dalle piattaforme anche in presenza di esempi lampanti e gravi di abusi come quello commesso da uno dei più pagati (e seguiti) calciatori al mondo.

Moderazione dei contenuti: “intoccabili” ma non per sempre

Neppure la presenza in “whitelist”, tuttavia, sembra assicurare agli “intoccabili” una condizione di privilegio senza ritorno, come dimostra il caso dell’ex-presidente USA. Eppure, man mano che le conoscenze sul sistema di moderazione di contenuti online aumentano, grazie alla disponibilità di testimonianze di ex-moderatori e alla ricorrente pubblicazione di inchieste come quella resa possibile grazie alla whistleblower Frances Haugen, sembra tuttora lontano il momento in cui tutte le informazioni disponibili verranno messe a fattor comune dalla politica e dagli stessi utenti dei social.

Anni e anni di sproloqui sulle presunte capacità di moderazione delle intelligenze artificiali si scontrano tuttora con la sofferenza delle vittime e i danni economici e morali dichiarati da coloro che hanno avuto la sfortuna di avere a che fare con il difettoso sistema di moderazione delle piattaforme digitali e le sue infinite e non trasparenti eccezioni.

L’eliminazione di Donald Trump, in questo senso, più che come un punto di partenza andrebbe riletta nei prossimi mesi come un gigantesco punto interrogativo sul potere accumulato negli anni da organizzazioni come Facebook o Twitter sul dare e togliere visibilità a proprio piacimento: i primi a preoccuparsi, dopotutto, dovrebbero essere proprio coloro che oggi si considerano (e sanno di essere) “intoccabili”.

@RIPRODUZIONE RISERVATA

Articoli correlati