social e ragazzi

I danni dell’algoritmo di TikTok sugli adolescenti: i dati oltre il clamore



Indirizzo copiato

Nonostante i tentativi di aggiustamento, l’algoritmo di TikTok continua a proporre contenuti dannosi per i ragazzi: dall’autolesionismo ai disturbi alimentari. La questione è complessa, ma deve essere una priorità: servono misure di contenimento più rigorose

Pubblicato il 4 ago 2023

Ivan Ferrero

Psicologo delle nuove tecnologie



tiktok challenge

Quando si parla di TikTok, la preoccupazione principale ruota attorno alla privacy dei dati, con il timore che i dati degli utenti possano finire nelle mani sbagliate. Tuttavia, un problema più insidioso risiede nella potenza dell’algoritmo, che è stato rilevato indirizzare gli spettatori verso contenuti pericolosi.

Questo problema è particolarmente preoccupante per i genitori e gli educatori, poiché ciò che gli adolescenti vedono sui social media può avere un profondo impatto psicologico.

Un’indagine del Wall Street Journal nel 2021 ha rivelato che l’algoritmo di TikTok stava portando gli spettatori a contenuti dannosi. Nonostante gli sforzi dell’azienda per rafforzare la moderazione dei contenuti e promettere un algoritmo più equilibrato, uno studio recente suggerisce che l’esperienza dell’app per i giovani adolescenti rimane sostanzialmente invariata.

L’American Psychological Association (APA) ha espresso preoccupazione per il potenziale degli algoritmi di condurre gli adolescenti su percorsi pericolosi. L’APA ha recentemente raccomandato ai genitori di monitorare l’uso dei social media da parte dei propri figli e di prestare attenzione ai segnali di contenuti dannosi.

Danni da algoritmo, non è solo clamore

Questa preoccupazione non è infondata. Un esperimento del Center for Countering Digital Hate ha rilevato che l’algoritmo di TikTok consigliava rapidamente video sul suicidio e sui disturbi alimentari agli account che erano stati appositamente creati dai ricercatori per imitare i tredicenni.

Nonostante queste preoccupazioni, TikTok sostiene di essere impegnato a moderare i contenuti, con un team di oltre 40.000 persone dedicate all’attività. Nell’ultimo trimestre del 2022, la società ha rimosso circa 85 milioni di post che violavano le linee guida della community. Tuttavia, il fatto che molti account che pubblicano contenuti dannosi rimangano attivi solleva interrogativi sull’efficacia di queste misure.

I dirigenti di TikTok sostengono che la piattaforma può essere un luogo in cui condividere sentimenti su esperienze difficili e alcuni esperti sostengono l’idea che affrontare attivamente emozioni difficili possa essere vantaggioso sia per gli spettatori che per chi pubblica.

L’azienda mira a rimuovere i video che promuovono o glorificano l’autolesionismo consentendo al contempo contenuti educativi o di recupero.

I dati oltre le parole

Nonostante gli sforzi per moderare i contenuti dannosi, è evidente che c’è ancora molto da fare per proteggere i nostri figli dai contenuti online dannosi.

Secondo una ricerca del Center of Countering Digital Hate, possiamo vedere che il vero nemico è l’algoritmo stesso:

  • TikTok ospita contenuti relativi ai disturbi alimentari, accumulando oltre 13,2 miliardi di visualizzazioni.
  • Alcuni contenuti che promuovono i disturbi alimentari aggirano la moderazione utilizzando hashtag codificati, incluso il nome del cantante Ed Sheeran. Si tratta di un vero e proprio linguaggio alternativo chiamato “Algospeak”.
  • Gli account fake di TikTok creati dai ricercatori sono stati esposti a contenuti di autolesionismo e disturbi alimentari pochi minuti dopo aver consultato il feed Per Te dell’app: i contenuti relativi al suicidio sono stati consigliati entro una media di 2,6 minuti, mentre i contenuti sui disturbi alimentari sono stati suggeriti entro 8 minuti.
  • Un nuovo account TikTok creato da un utente di 13 anni che interagisce con contenuti sull’immagine corporea e sulla salute mentale riceverà raccomandazioni di contenuti simili ogni 39 secondi.
  • Gli account TikTok con “loseweight” nel nome, definiti “Vulnerable Teen Accounts”, hanno ricevuto molte più raccomandazioni per disturbi alimentari e contenuti di autolesionismo.
  • Questi account di adolescenti vulnerabili sono stati esposti a video tre volte più dannosi e a dodici volte più video di autolesionismo rispetto agli account di adolescenti standard.
  • Agli Vulnerable Teen Accounts sono stati mostrati anche più video relativi alla salute mentale.

I dati del Center for Countering Digital Hate dipingono un quadro preoccupante del panorama digitale delle piattaforme particolarmente navigate dagli adolescenti.

Il solo volume di visualizzazioni sui contenuti relativi ai disturbi alimentari, oltre 13,2 miliardi, è allarmante. Evidenzia la natura pervasiva di tali contenuti dannosi e la possibilità che essi influenzino gli utenti più vulnerabili.

L’uso del linguaggio in codice e dei riferimenti alla cultura popolare per eludere gli sforzi di moderazione (l’Algospeak di cui abbiamo accennato prima) mostra una comprensione sofisticata dei sistemi della piattaforma da parte dei nostri ragazzi, rendendola ancora più difficile da controllare e monitorare. Ciò sottolinea la necessità di strumenti e strategie di moderazione più avanzati per combattere tali tattiche.

Non solo: mostra anche quanto siano deboli le regole di protezione della piattaforma.

La rapida esposizione di nuovi utenti a contenuti di autolesionismo e disturbi alimentari è particolarmente preoccupante. Il fatto che tali contenuti possano essere consigliati entro pochi minuti dalla creazione dell’account solleva seri interrogativi sugli algoritmi di raccomandazione della piattaforma e sul loro potenziale nel causare danni.

La frequenza dei consigli sui contenuti dannosi, ogni 39 secondi per gli utenti che interagiscono con l’immagine corporea e il contenuto relativo alla salute mentale, è un’altra area di preoccupazione. Questa esposizione costante può avere un impatto negativo sulla salute mentale degli adolescenti, rafforzando percezioni e comportamenti negativi.

Il targeting di “Vulnerable Teen Accounts” con contenuti significativamente più dannosi è un duro richiamo di come gli algoritmi possano inavvertitamente esacerbare le vulnerabilità già esistenti. Ciò evidenzia la necessità di una progettazione di algoritmi più sfumata e sensibile che tenga conto delle potenziali vulnerabilità degli utenti.

Il confine tra contenuti dannosi e discussioni utili è spesso sfumato. I video in cui le persone descrivono i propri sentimenti e pensieri estremi potrebbero non essere considerati una violazione e non ricadrebbero sotto il controllo del moderatore. Tuttavia questi video possono ancora avere un effetto dannoso su una certa fascia di popolazione.

Quanto è davvero dannosa tale esposizione per i nostri figli?

L’esposizione di bambini e giovani adulti a contenuti dannosi su piattaforme di social media come Instagram può avere gravi conseguenze.

La ricerca ha dimostrato che Instagram, noto per le sue rappresentazioni pubbliche ed esplicite di autolesionismo, può rappresentare un rischio per il pubblico vulnerabile.

Un sondaggio statunitense che ha coinvolto giovani adulti ha rilevato che l’esposizione a contenuti di autolesionismo su Instagram era associata a ideazione suicidaria, autolesionismo e disturbi emotivi, anche quando si controllava l’esposizione a contenuti simili da altre fonti.

Più preoccupante è che l’esposizione a contenuti di autolesionismo su Instagram ha previsto esiti di autolesionismo e tentativi di suicidio entro il mese successivo.

Questi risultati forniscono una forte evidenza che tale esposizione può innescare un effetto di contagio negli utenti più vulnerabili, sottolineando l’urgente necessità di misure protettive più solide su queste piattaforme.

Le cose potrebbero essere più profonde di quanto tu possa pensare

Detto questo, possiamo sostenere che i social media sono il nemico da sconfiggere quando parliamo di proteggere i nostri figli.

Secondo uno studio di meta-analisi, le persone ricorrono all’autolesionismo e contemplano il suicidio come meccanismo di coping per alleviare alcuni tipi di stress.

Altre ricerche non hanno riscontrato quasi nessun effetto dannoso dell’esposizione ai contenuti dei social media stessi.

Molte altre ricerche affermano che l’ideazione suicidaria e un effettivo comportamento autolesionista sono strettamente legati.

Il quadro è chiaro: la vera spinta è dentro i nostri figli, o parte di loro.

Nell’era digitale di oggi, gli algoritmi delle piattaforme di social media “semplicemente” si intersecano con le vite dei nostri figli in modi profondi e spesso invisibili.Questi algoritmi, progettati per mantenere gli utenti coinvolti, possono inavvertitamente esporre le giovani menti a contenuti dannosi, inclusi post relativi all’autolesionismo e al suicidio.

La lotta per un mondo digitale più sicuro continua

Come genitori, educatori e società nel suo insieme, dobbiamo riconoscere il ruolo che gli algoritmi dei social media svolgono nella vita dei nostri figli. Dobbiamo sostenere spazi digitali più sicuri, pratiche algoritmiche più trasparenti e un solido supporto per la salute mentale per i nostri giovani. Dobbiamo anche educare i nostri figli sui potenziali rischi e impatti dei contenuti che consumano online, dotandoli delle capacità di pensiero critico necessarie per navigare nel mondo digitale in modo sicuro e responsabile.

Il dilemma di TikTok sottolinea la necessità di un dialogo continuo, ricerca e sviluppo di politiche per garantire la sicurezza e il benessere dei nostri giovani cittadini digitali.

Tuttavia, rimane una domanda cruciale: le piattaforme social commerciali possono davvero assolvere a questi compiti? Le piattaforme commerciali sono, dopotutto, guidate da motivazioni di profitto, che a volte possono entrare in conflitto con l’obiettivo di creare un ambiente digitale sicuro e positivo per i giovani utenti.

Ciò solleva la possibilità di esplorare alternative non commerciali.

Forse abbiamo bisogno di uno spazio digitale pubblico e non commerciale che operi indipendentemente dalle regole del mondo degli affari e del profitto.

Una piattaforma del genere potrebbe dare la priorità al benessere dei suoi utenti sopra ogni altra cosa, creando un ambiente digitale più sicuro e di maggiore supporto per i nostri figli.

Si tratta di una questione complessa che richiede ulteriore esplorazione e dialogo, ma il benessere dei nostri figli nel mondo digitale dovrebbe sempre essere la nostra massima priorità.

Bibliografia

All the ways TikTok tracks you and how to stop it, https://www.wired.co.uk/article/tiktok-data-privacy

Arendt, F., Scherr, S., & Romer, D. (2019). Effects of exposure to self-harm on social media: Evidence from a two-wave panel study among young adults. New Media & Society, 21(11–12), 2422–2442. https://doi.org/10.1177/1461444819850106

Deadly by design, Center of Countering Digital Hate, (2022)

Kuehn, K.S., Dora, J., Harned, M.S. et al. A meta-analysis on the affect regulation function of real-time self-injurious thoughts and behaviours. Nat Hum Behav 6, 964–974 (2022). https://doi.org/10.1038/s41562-022-01340-8

TikTok Feeds Teens a Diet of Darkness, https://www.wsj.com/articles/tiktok-feeds-teens-a-diet-of-darkness-8f350507

What to Do if Your Child Has Suicidal Thinking, https://www.webmd.com/parenting/features/what-to-do-if-child-has-suicidal-thoughts

EU Stories - La coesione innova l'Italia

Tutti
Iniziative
Analisi
Social
Video
Agevolazioni
A febbraio l’apertura dello sportello Mini Contratti di Sviluppo
Quadri regolamentari
Nuovi Orientamenti sull’uso delle opzioni semplificate di costo
Coesione
Nuovo Bauhaus Europeo (NEB): i premi che celebrano innovazione e creatività
Dossier
Pubblicato il long form PO FESR 14-20 della Regione Sicilia
Iniziative
400 milioni per sostenere lo sviluppo delle tecnologie critiche nel Mezzogiorno
Formazione
“Gian Maria Volonté”: dalle aule al mondo del lavoro, focus sui tirocini della Scuola d’Arte Cinematografica
TRANSIZIONE ENERGETICA
Il ruolo del finanziamento BEI per lo sviluppo del fotovoltaico in Sicilia
Formazione
“Gian Maria Volonté”: dalla nascita ai progetti futuri, focus sulla Scuola d’Arte Cinematografica. Intervista al coordinatore Antonio Medici
MedTech
Dalla specializzazione intelligente di BionIT Labs una innovazione bionica per la disabilità
Finanza sostenibile
BEI e E-Distribuzione: investimenti per la sostenibilità energetica
Professioni
Servono competenze adeguate per gestire al meglio i fondi europei
Master
Come formare nuove professionalità per governare e gestire al meglio i fondi europei?
Programmazione UE
Assunzioni per le politiche di coesione: prossimi passi e aspettative dal concorso nazionale. Il podcast “CapCoe. La coesione riparte dalle persone”
innovazione sociale
Rigenerazione urbana: il quartiere diventa un hub dell’innovazione. La best practice di San Giovanni a Teduccio
Programmazione europ
Fondi Europei: la spinta dietro ai Tecnopoli dell’Emilia-Romagna. L’esempio del Tecnopolo di Modena
Interventi
Riccardo Monaco e le politiche di coesione per il Sud
Iniziative
Implementare correttamente i costi standard, l'esperienza AdG
Finanziamenti
Decarbonizzazione, 4,8 miliardi di euro per progetti cleantech
Formazione
Le politiche di Coesione UE, un corso gratuito online per professionisti e giornalisti
Interviste
L’ecosistema della ricerca e dell’innovazione dell’Emilia-Romagna
Interviste
La ricerca e l'innovazione in Campania: l'ecosistema digitale
Iniziative
Settimana europea delle regioni e città: un passo avanti verso la coesione
Iniziative
Al via il progetto COINS
Eventi
Un nuovo sguardo sulla politica di coesione dell'UE
Iniziative
EuroPCom 2024: innovazione e strategia nella comunicazione pubblica europea
Iniziative
Parte la campagna di comunicazione COINS
Interviste
Marco De Giorgi (PCM): “Come comunicare le politiche di coesione”
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politiche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia
Agevolazioni
A febbraio l’apertura dello sportello Mini Contratti di Sviluppo
Quadri regolamentari
Nuovi Orientamenti sull’uso delle opzioni semplificate di costo
Coesione
Nuovo Bauhaus Europeo (NEB): i premi che celebrano innovazione e creatività
Dossier
Pubblicato il long form PO FESR 14-20 della Regione Sicilia
Iniziative
400 milioni per sostenere lo sviluppo delle tecnologie critiche nel Mezzogiorno
Formazione
“Gian Maria Volonté”: dalle aule al mondo del lavoro, focus sui tirocini della Scuola d’Arte Cinematografica
TRANSIZIONE ENERGETICA
Il ruolo del finanziamento BEI per lo sviluppo del fotovoltaico in Sicilia
Formazione
“Gian Maria Volonté”: dalla nascita ai progetti futuri, focus sulla Scuola d’Arte Cinematografica. Intervista al coordinatore Antonio Medici
MedTech
Dalla specializzazione intelligente di BionIT Labs una innovazione bionica per la disabilità
Finanza sostenibile
BEI e E-Distribuzione: investimenti per la sostenibilità energetica
Professioni
Servono competenze adeguate per gestire al meglio i fondi europei
Master
Come formare nuove professionalità per governare e gestire al meglio i fondi europei?
Programmazione UE
Assunzioni per le politiche di coesione: prossimi passi e aspettative dal concorso nazionale. Il podcast “CapCoe. La coesione riparte dalle persone”
innovazione sociale
Rigenerazione urbana: il quartiere diventa un hub dell’innovazione. La best practice di San Giovanni a Teduccio
Programmazione europ
Fondi Europei: la spinta dietro ai Tecnopoli dell’Emilia-Romagna. L’esempio del Tecnopolo di Modena
Interventi
Riccardo Monaco e le politiche di coesione per il Sud
Iniziative
Implementare correttamente i costi standard, l'esperienza AdG
Finanziamenti
Decarbonizzazione, 4,8 miliardi di euro per progetti cleantech
Formazione
Le politiche di Coesione UE, un corso gratuito online per professionisti e giornalisti
Interviste
L’ecosistema della ricerca e dell’innovazione dell’Emilia-Romagna
Interviste
La ricerca e l'innovazione in Campania: l'ecosistema digitale
Iniziative
Settimana europea delle regioni e città: un passo avanti verso la coesione
Iniziative
Al via il progetto COINS
Eventi
Un nuovo sguardo sulla politica di coesione dell'UE
Iniziative
EuroPCom 2024: innovazione e strategia nella comunicazione pubblica europea
Iniziative
Parte la campagna di comunicazione COINS
Interviste
Marco De Giorgi (PCM): “Come comunicare le politiche di coesione”
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politiche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia

Articoli correlati

Articolo 1 di 3