Algoritmi che incitano all’odio? Così i video alterano le opinioni e amplificano la violenza - Agenda Digitale

piattaforme e violenza

Algoritmi che incitano all’odio? Così i video alterano le opinioni e amplificano la violenza

Circolano sempre di più video politici dai contenuti intenzionalmente provocatori, con effetti di incitamento all’odio che spingono gli utenti a cercare e pubblicare materiali estremistici. La colpa è degli algoritmi, o è esattamente a ciò che gli utenti vogliono ricercare e pubblicare? Proviamo a capirne di più

06 Mag 2021
Angelo Alù

Consigliere Internet Society - Osservatorio Giovani e Internet

La responsabilità del crescente fenomeno dell’odio online legato alla dilagante proliferazione di contenuti violenti è davvero ascrivibile alle piattaforme virtuali? Oppure tale flusso comunicativo corrisponde esattamente a ciò che gli utenti vogliono ricercare e pubblicare?

La condivisione di video politici di incitamento all’odio, fenomeno in ascesa

Il dilemma torna vivo ora che è emersa la storia di un content creator impegnato negli anni a realizzare video YouTube con personalità politiche di estrema destra, fatti apposta per indignare e quindi essere condivisi sulla piattaforma. Lo rivela un recente articolo del “The New York Times”. Sono video “politici” dai contenuti “intenzionalmente provocatori e conflittuali”. Sfruttano la tendenza dell’algoritmo a incentivare i video che fanno più engagement; con l’effetto di incentivare l’odio stimolando gli utenti a ricercare e pubblicare materiali “estremistici”.

Odio online, verso nuovi equilibri in rete: il rapporto della task force governativa

Si fa, ad esempio, riferimento a un video, pubblicato da un attivista di estrema destra, ove si descrive, pare con talune tecniche manipolatorie di travisamento, l’aggressione arrecata da un migrante africano, culminante, tra urla e spinte reiterate, in una colluttazione violenta tra le parti, che ha registrato presto un’impennata di visualizzazioni, così da consentire all’autore di guadagnare notorietà per le sue posizioni anti-immigrati e anti-islamiche.

La propaganda estremista vince sull’informazione moderata: i dati (impietosi) e gli effetti

Dal punto di vista tecnico-creativo, il montaggio del video sembra aver enfatizzato i momenti più drammatici e violenti della vicenda, per assicurare maggiori livelli di “viralizzazione” conforme non solo al raggiungimento di obiettivi lucrativi di guadagno legati alla massimizzazione di “click”, ma anche all’amplificazione di idee propagandistiche di matrice estremistica associate a tali contenuti in grado di alimentare rabbia, violenza e odio incrementate nell’ambito di un circolo vizioso di contenuti a senso unico che, sulla base di un flusso comunicativo monodirezionale, tende a sviluppare atteggiamenti di astio, animosità e rabbia nei confronti degli utenti indotti a ricercare informazioni corrispondenti alle proprie personali convinzioni.

Non si tratta, a quanto pare, di un caso isolato, ma di una tendenza che rete di influenza, grazie alla capacità di elaborare sofisticate tecniche di creazione selettiva di contenuti multimediali finalizzati ad attirare milioni di visualizzazioni anche sfruttando gli algoritmi per orientare le persone a guardare tali video estremi.

Funzionalità delle piattaforme: quale ruolo nella diffusione della violenza?

Rispetto al flusso comunicativo condiviso online, infatti, almeno il 30% delle visualizzazioni risulterebbe associato alle funzionalità di suggerimento offerte dalle piattaforme multimediali.

In tale scenario emergerebbe la “viralizzazione” polarizzata di contenuti multimediali istigativi di rabbia e violenza – talvolta anche parzialmente manipolati e ingannevoli – come tendenza “amplificatoria” di pregiudizi già insiti nella cultura sociale dominante che trova, quindi, online terreno fertile per diffondersi rapidamente in un’ottica di proselitismo digitale dilagante, specie quando mira a veicolare temi politicamente “sensibili” riguardanti, ad esempio, l’immigrazione e la sfera religiosa.

Video del genere, peraltro, una volta caricati online, attirano particolarmente l’attenzione su larga scala grazie ad alcune funzionalità delle piattaforme che, mediante l’uso di algoritmi automatici, sembrano indirizzare gli utenti alla visione di tali contenuti multimediali, fomentando indirettamente la condivisione di idee propagandistiche dagli effetti pericolosi e violenti sempre più estremi a causa di una sorta di “trance visiva” in grado di manipolare la riproduzione dei video disponibili online secondo le preferenze profilate di ciascun utente orientato a visualizzare ulteriori contenuti corrispondenti a quelli precedenti su cui ha già manifestato il proprio gradimento rispetto ai termini di ricerca correlati nell’ambito di monodirezionali “bolle di filtro” funzionali a consolidare nella massa delle persone l’adesione a teorie complottistiche divisive e aggressive senza alcun fondamento scientifico e di veridicità fattuale.

In tale prospettiva, tende a rafforzarsi una vera e propria “rete di influenza” di idee estremistiche amplificate proprio dalla riproduzione algoritmica delle funzionalità automatiche di contenuti visualizzati dal singolo utente indotto a radicalizzare i propri convincimenti personali con conseguente alterazione del processo formativo della propria opinione deformata da invisibili meccanismi manipolatori in grado di radicalizzare le convinzioni personali.

Conclusioni

Di certo, di fronte alle recenti implicazioni del “lato oscuro” di Internet, la crescente diffusione di informazioni false, fuorvianti, contraffatte e manipolate su larga scala sembra rendere davvero difficile la possibilità di distinguere con nitidezza e precisione ciò che è reale da ciò che non lo è, determinando il rischio di interferenze sulla stabilità politica e sociale, come problema generale che, però, va ben oltre le specifiche criticità dell’ambiente digitale, perché riflette un diffuso deficit cognitivo e un ritardo culturale destinato a incidere sull’uso consapevole delle tecnologie, tale da precludere lo sviluppo inclusivo, trasparente e sostenibile dell’innovazione digitale, sempre più esposta al rischio derive involutive aggravate da pericoli di sorveglianza, fenomeni di disinformazione e strumenti di censura in grado di indebolire la tenuta democratica dei sistemi politici con ripercussioni negative sulla tutela dei diritti fondamentali delle persone.

@RIPRODUZIONE RISERVATA

Articolo 1 di 4