trasparenza

Social, tutti i dubbi sui report sulla moderazione di contenuti

Mettendo a confronto tra loro i report sulla trasparenza della moderazione di contenuti pubblicati dalle grandi piattaforme digitali come Facebook, YouTube, Twitter, Twitch, LinkedIn e TikTok, emergono alcune inquietanti somiglianze: assenza di esempi concreti e innumerevoli errori di moderazione non giustificati

18 Mag 2021
Jacopo Franchi

Web content strategist, scrittore, autore del blog “Umanesimo Digitale”

social

Dati privi di qualsiasi valore scientifico, milioni di contenuti rimossi e non rimossi senza che sia possibile verificare un solo esempio concreto, migliaia di errori di moderazione privi di una motivazione verificabile: 17.194.632 video da YouTube, di cui 16.191.045 grazie al rilevamento automatico; 13,1 milioni di contenuti d’odio da Facebook, di cui 12,5 milioni tramite rilevamento automatico; 89.132.938 video da TikTok, di cui 82.358.834 tramite rilevamento automatico; 130.274.022 messaggi in chat da Twitch, di cui 98.818.954 tramite rilevamento automatico; 925.700 account di Twitter, di cui 842.387 tramite rilevamento automatico; 79.498.500 contenuti di spam o di scam da LinkedIn, di cui 79.300.000 in maniera automatica.

Tutti i problemi del potere social nel verdetto dell’oversight board Facebook su Trump

Sono questi i contenuti e gli account rimossi dalle grandi piattaforme digitali nel secondo semestre 2020 (nel primo semestre nel caso di Twitter e LinkedIn, ultimo periodo di cui si conoscono i dati) secondo quanto si legge nei rispettivi report sulla trasparenza. A mancare, tuttavia, in questa lista potenzialmente infinita di numeri e grafici è proprio l’oggetto principale a cui essi fanno riferimento: gli account e i contenuti rimossi, di cui non sono disponibili esempi concreti per valutare la loro effettiva violazione delle policy di pubblicazione.

L’impossibilità di verificare alcun dato riportato

Non uno dei 17 milioni di video rimossi da YouTube sono mostrati nel report o nei suoi allegati per una verifica più approfondita, non uno dei 13 milioni di contenuti d’odio rimossi da Facebook possono essere letti oggi per giudicare la correttezza dell’intervento di moderazione automatico o manuale, così come non è possibile vedere uno solo degli 89 milioni di video rimossi da TikTok, di cui 74 milioni addirittura prima che qualsiasi utente potesse vederli.

WHITEPAPER
Automazione e validazione dei software? L'AI fa la differenza!
Intelligenza Artificiale
Software

Paradossalmente, tanto più i report sulla trasparenza diventano dettagliati e mostrano uno spaccato dei contenuti rimossi per tipologia, tanto meno essi consentono di farsi un’idea più precisa degli autori e del contesto in cui questi stessi contenuti sono stati prodotti. Di fronte alla mancanza assoluta di una controprova, questi dati potrebbero essere stati inventati, gonfiati o sottostimati senza che nessun ricercatore possa verificarlo di persona: non valgono nulla, ai fini della ricerca, e nessun giornalista serio dovrebbe riportarli nei suoi articoli senza poter accedere alla fonte originale.

Mancando del tutto i casi concreti, viene meno anche la possibilità per gli utenti di imparare dagli “errori” e dalle violazioni altrui: che cosa intende Facebook per “contenuti d’odio”? Quali sono gli account “di scam” che LinkedIn non tollera? E in che cosa consiste la “disinformazione” che YouTube ha così massivamente censurato? Le policy di pubblicazione a cui ogni utente delle piattaforme digitali dovrebbe attenersi sono ancora oggi un documento di migliaia di parole di testo prive di qualsiasi riferimento a contenuti e situazioni concrete che hanno portato a un intervento di moderazione.

L’opacità dei report sulla trasparenza non è un gioco di parole, ma la constatazione del fatto che ad oggi questi documenti sembrano essere più uno strumento di relazioni pubbliche nei confronti delle istituzioni nazionali e sovranazionali che non uno strumento a disposizione di utenti, inserzionisti e ricercatori per comprendere meglio le scelte di moderazione delle piattaforme digitali, al fine di trovare una spiegazione dei motivi per cui innumerevoli contenuti vengono o non vengono rimossi, malgrado la loro evidente violazione delle policy stesse.

Ogni contenuto ripristinato è un errore per il quale qualcuno paga le conseguenze

In quanto strumenti di relazioni pubbliche nei confronti di quelle istituzioni che nel corso degli ultimi anni hanno fortemente ridimensionato i contenuti ammessi o tollerati sulle piattaforme digitali, a seconda del Paese di riferimento, i report sulla trasparenza servono oggi a esaltare lo sforzo compiuto da Facebook, TikTok, YouTube e altre piattaforme minori nello sviluppo di sistemi di intelligenza artificiale volti a riconoscere e censurare in maniera automatica i contenuti potenzialmente “a rischio”. Per quanto non sia possibile, dai report, distinguere tra i contenuti segnalati dall’intelligenza artificiale e rimossi da un operatore umano e i contenuti rimossi da un sistema interamente automatico, nondimeno a una lettura superficiale dei dati sembra oggi evidente quanto le piattaforme siano in grado di intervenire in maniera massiccia, immediata e brutale contro i loro stessi utenti (e inserzionisti): quanto i sistemi di moderazione automatica possano raggiungere risultati altrimenti impensabili fino a pochi anni fa, rimuovendo o anche solo semplicemente individuando i contenuti da far rimuovere ai moderatori “umani” chiamati a prendere sempre più decisioni, in un periodo di tempo sempre insufficiente rispetto al necessario.

Gli errori, è il caso di dirlo, non si contano più: nello stesso periodo preso in esame sono stati 70 mila i contenuti d’odio rimossi e in seguito ripristinati da Facebook, 165 mila i video rimossi e in seguito ripristinati da YouTube, addirittura 2,9 milioni i video eliminati e poi ripristinati da TikTok in seguito a un appello degli utenti, mentre non sono noti i numeri degli errori commessi dai moderatori umani o automatici sulle altre piattaforme digitali menzionate all’inizio dell’articolo. Anche in questo caso, tuttavia, non è possibile vedere un solo esempio dei contenuti che sono stati ripristinati e ricostruire gli errori commessi durante il processo di moderazione. I numeri raccontano solo una parte della realtà, trascurando i danni reputazionali ed economici che le piattaforme infliggono ai loro stessi “creator”, amministratori di pagine e gruppi, a causa di un sistema costruito per rispondere sempre più rapidamente alle pressioni delle autorità di tutto il mondo senza prevedere alcuna effettiva forma di tutela nei confronti dei propri utenti, che al massimo possono inoltrare un appello e attendere pazientemente un messaggio di scuse predefinito.

Censura automatica, un boomerang che potrebbe ritorcersi contro le piattaforme 

A oggi, l’unico elemento certo che è possibile ricavare dai report di trasparenza è che le piattaforme digitali stanno investendo massicciamente nello sviluppo di sistemi di moderazione automatica, in sostituzione o – più probabilmente – in appoggio al lavoro dei moderatori di contenuti manuali. Un investimento economico ma soprattutto reputazionale, volto ad anticipare le richieste dei governi di risolvere i problemi legati alla diffusione di contenuti d’odio, razzisti, di violenza sessuale o terroristica, e al sempre più indistinto campo delle cosiddette “fake news”: mettendo in evidenza la percentuale di contenuti rimossi o segnalati in automatico rispetto al totale dei contenuti moderati, i report di trasparenza servono a esaltare la capacità e le promesse della censura tecnologica in luogo della ben più tradizionale e lenta censura “tradizionale”.

Tanto più la percentuale di contenuti moderati da sistemi automatici si avvicina al 100% del totale, tanto più le piattaforme potrebbero trovarsi nella scomoda posizione di dover gestire sempre più richieste, sempre più urgenti da parte dei governi e delle autorità nazionali e sovranazionali per intervenire laddove le segnalazioni “manuali” non sortiscono gli effetti desiderati. Dopo gli anni in cui i social media hanno autocelebrato la capacità dei propri algoritmi di individuare i contenuti migliori per ciascun utente senza la mediazione degli uomini, stiamo oggi entrando nel periodo in cui gli stessi social media stanno celebrando la capacità dei propri sistemi automatici di individuare (e rimuovere) i contenuti peggiori senza dover attendere i tempi del giudizio umano: una promessa incredibilmente audace, nella misura in cui il suo stesso successo potrebbe portare le autorità a chiedere una censura ancora più pervasiva, capillare e performante di quanto avvenga già ora. Senza, tuttavia, alcuna tutela o garanzia per quegli utenti che vengono penalizzati senza aver violato alcuna legge, senza aver dubitato un solo istante della possibilità di perdere pensieri, ricordi e contenuti affidati alle piattaforme a causa dell’intervento di un sistema di moderazione onnipresente e senza volto.

E la chiamano “trasparenza”.

@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articolo 1 di 2