La crociata dei social contro i profili falsi, in nome della democrazia - Agenda Digitale

fake news

La crociata dei social contro i profili falsi, in nome della democrazia

Di fronte alla dilagante disinformazione i social dovrebbero intensificare gli sforzi, mettendo in secondo piano le preoccupazioni sulla compressione della libertà di parola e prendendo atto che la proliferazione di account falsi e la crescente diffusione di fake news incide sulla stabilità della società e della democrazia

05 Gen 2021
Angelo Alù

Consigliere Internet Society - Osservatorio Giovani e Internet

La guerra dei social contro i profili social falsi, che disseminano disinformazione, è forse come svuotare il mare con un secchiello.

Si arriva forse a questa consapevolezza, alla luce di alcuni dati recenti, che mostrano un paradosso. E cioè che anche a fronte della rimozione di miliardi di account, c’è ancora molta difficoltà nell’individuare gli account falsi soprattutto creati manualmente perché risultano più credibili e quindi difficilmente identificabili come abusivi.

La risposta dei social al problema dei falsi account

In particolare, secondo quanto riportato dal “The New York Times”, i social hanno cancellato negli ultimi mesi più di un miliardo di account falsi. Eppure la disinformazione resta e addirittura cresce, come riportano i numeri dell’aumento di contenuti legati a Qanon.

quiz
[QUIZ] Sei pronto per garantire una customer connection eccellente?
CRM
Digital Transformation

Ma davvero i social network possono rimuovere gli account falsi con tale facilità di identificazione e, in un certo senso, anche andando contro i propri interessi commerciali che presuppongono il raggiungimento di elevate percentuali di iscrizioni alle proprie piattaforme al fine di massimizzare i profitti legati alle attività business dell’advertising online?

In realtà, sembrano prospettarsi concreti dubbi sull’effettiva entità dei dati statistici che risulterebbero “gonfiati”, se si considera che “Facebook ha dichiarato di aver bloccato 4,5 miliardi di account nei primi nove mesi dell’anno e di aver individuato più del 99% degli account falsi prima che gli utenti potessero segnalarli” (corrispondenti a quasi il 60% della popolazione mondiale).

L’aumento esponenziale di account falsi

Dal punto di vista tecnico, nella maggior parte dei casi, i cosiddetti “fake account” sono generati da bot automatici che vengono creati da sofisticati programmi con l’intento di favorire la viralizzazione delle discussioni online su determinati post o argomenti tematici costantemente condivisi dagli utenti (secondo alcuni studi, ad esempio, più della metà degli account Twitter che parlano di COVID-19 sono bot).

L’aumento esponenziale di account falsi che risultano registrati sui social network, al netto degli sforzi intrapresi nel tentativo di identificarli e bloccarli già durante la fase di iscrizione, conferma un dato – perlopiù sovrastimato – decisamente preoccupante: circa il 5% degli utenti mensili di Facebook, ad esempio, è costituito da account falsi, destinati ad incidere sulle frequenti ondate di contenuti falsi e fuorvianti veicolati per il tramite dei social network (non a caso, sulla scorta di tali interventi di controllo, recentemente, proprio Facebook ha dichiarato di aver rimosso circa 7 milioni di contenuti di incitamento all’odio per violazione delle proprie politiche aziendali, di cui oltre l’80% è stato rilevato prima della visualizzazione da parte degli utenti).

Ciò risulta dai dati pubblicati nell’ambito del Community Standards Enforcement Report (CSER), da cui si evince un incremento della capacità tecnologica della piattaforma nella rapida identificazione degli account falsi in grado di prevenire possibili danni ed evitare di agire su account validi e autentici registrati erroneamente dall’utente.

Il sistema di classificazione degli account fake di Facebook

In particolare, Facebook utilizza sistemi di apprendimento automatico che consentono di riconoscere gli account classificati in modo errato dagli utenti (profili personali di aziende o animali domestici che devono essere convertiti in pagine) e di identificare le violazioni più gravi realizzate mediante profili personali che, essendo registrati al fine specifico di commettere truffe e spam, devono essere rimossi il più rapidamente possibile prima che diventino attivi nella condivisione dei contenuti, con il rischio di danneggiare gli utenti reali.

Più precisamente, il sistema di classificazione predisposto da Facebook può identificare quattro tipi di profili falsi:

  • account illegittimi non rappresentativi della persona,
  • account compromessi di utenti reali che sono stati rilevati da aggressori,
  • spammer che inviano ripetutamente messaggi e
  • truffatori che manipolano gli utenti nella divulgazione di informazioni personali.

Pertanto, grazie all’uso di algoritmi di rilevazione si procede, già in fase di registrazione, al blocco della creazione degli account falsi così da impedire da subito di accedere alla piattaforma sociale. I sistemi tecnologici di controllo cercano anche potenziali account falsi non appena si registrano, individuando segnali di comportamenti dannosi desumibili da indirizzi e-mail sospetti o da altre azioni equivoche che ne consentono l’immediata disabilitazione prima di causare danni. Ulteriori account possono essere cancellati a seguito delle segnalazioni inoltrate direttamente dagli utenti sollecitati a collaborare attivamente nell’individuazione di fake account.

Nonostante ciò, i social network hanno ancora molta difficoltà nell’individuare gli account falsi.

Anche per tale ragione, Facebook ha implementato il proprio sistema di rilevazione degli account falsi, perfezionando il livello dei propri algoritmi per combattere la disinformazione online mediante il cosiddetto “Temporal Interaction EmbeddingS (TIES)” in grado di monitorare le peculiari reazioni interattive generate da fake account rispetto al tradizionale flusso riferibile a post e profili “normali”, in modo da poter mettere in evidenza con maggiore facilità i comportamenti legati a entità non autentiche (il modello TIES di Facebook, ha esaminato 2,5 milioni di account con un rapporto 80/20 reali/falsi) e 130.000 post, di cui circa il 10% sono etichettati come disinformazione).

Conclusioni

Di fronte al dilagante rischio di una crescente disinformazione online, i social network dovrebbero intensificare ancora di più i propri sforzi, mettendo in secondo piano le proprie “teoriche” preoccupazioni sulla compressione della libertà di parola, in modo da prendere concretamente atto che la proliferazione di account falsi incide sulla progressiva diffusione di informazioni false e fuorvianti al punto tale da compromettere la stabilità generale della società e dei circuiti democratici dei sistemi politici a causa di preoccupanti “effetti collaterali” provocati dal business particolarmente redditizio su cui si basa il funzionamento degli algoritmi di viralizzazione dei contenuti in grado di alimentare divisioni, caos e bugie come diretta conseguenza della circolazione senza controllo di contenuti falsi.

@RIPRODUZIONE RISERVATA

Articolo 1 di 4