le azioni

Revenge Porn su Facebook: ecco la strategia di contrasto

Facebook intende prendere più seriamente in considerazione la problematica del revenge porn ed aumenta i propri sforzi nel contrasto al fenomeno: dispiega ulteriori risorse umane (circa 25 “moderatori”) in supporto agli algoritmi di intelligenza artificiale di monitoraggio della piattaforma

25 Feb 2020
Federico P. F. Pontani

Legal Tech Consultant


Oggi i social network rappresentano il principale veicolo del revenge porn, nonché il luogo dove gli effetti di tali atti si ripercuotono con più violenza sulle vittime. Proprio per questo, a seguito dell’introduzione nel Codice penale dell’art. 612-ter (“Diffusione illecita di immagini o video sessualmente espliciti”), a repressione del fenomeno, ci si era subito domandati se anche le attuali misure preventive fossero adeguate e sufficienti.

Si è subito, quindi, sottolineata la necessità dell’intervento delle piattaforme di social network sul fronte revenge porn e sexting (e, in generale, degli OTT), che più degli altri (autorità di vigilanza, Enti ed istituzioni, scuole ed educatori, nonché il legislatore stesso) sono nelle condizioni di neutralizzare o quantomeno arginare in modo efficace e tempestivo, la diffusione non consensuale di immagini e video a sfondo erotico.

Monitoraggio con l’intelligenza artificiale, ma non da sola

Già dal 2017 Facebook aveva creato un progetto pilota, inizialmente avviato in Australia e successivamente esteso ad altri Paesi (fra cui Stati Uniti, Regno Unito e Canada), attraverso il quale era possibile segnalare la potenziale diffusione non consensuale su Internet di immagini o video a sfondo erotico.

Il programma consisteva nella messa a disposizione di un canale sicuro di trasferimento, attraverso il quale la vittima poteva trasmettere a Facebook il materiale audiovisivo oggetto della diffusione illecita, materiale che la piattaforma procedeva a contrassegnare con un sistema di ashing (da cui esitava un’impronta digitale univoca).

Ottenuta l’impronta associata al contenuto sospetto, qualora lo stesso fosse stato pubblicato su Facebook (o su piattaforme dalla stessa controllate, come Instagram e Facebook Messenger) sarebbe stato immediatamente riconosciuto da un apposito algoritmo di monitoraggio e conseguentemente rimosso.

Lo scopo, in questo caso, era proprio quello di impedire la propagazione sulle piattaforme di Facebook di scatti erotici illecitamente diffusi su Internet.

Il progetto non era andato esente da critiche, proprio perché richiedeva il preliminare caricamento di materiale particolarmente sensibile su database controllati da Facebook.

WEBINAR
Blockchain, Iot, AI per una Supply Chain intelligente e più efficiente
Blockchain
Intelligenza Artificiale

Anche se le foto trasmesse venivano cancellate entro 7 giorni (secondo quanto dichiarato da Antigone Davis, Global head of safety di Facebook), rimanendo nel sistema solo l’impronta ash necessaria per la rimozione dei contenuti, perplessità continuavano a sussistere sulla sicurezza del database in questione.

Ora il progetto non è più in fase di testing ed è in fase di implementazione capillare in tutti i Paesi dove è presente il popolare social media. Inoltre, il sistema di monitoraggio è stato potenziato tramite l’assegnazione di ulteriore personale al programma.

In particolare è stato costituito un team dedicato di 25 tecnici (oltre ai già attivi “content moderators”), con specifica funzione di contrasto dei fenomeni di Revenge porn e sextortion, attraverso: (i) screening del materiale inoltrato tramite apposita pagina di segnalazione reperibile qui; (ii) attività di supporto e manutenzione all’algoritmo di machine learning adibito al rilevamento e rimozione dei contenuti sospetti.

Il sistema prevede sempre l’assegnazione di un fingerprint digitale ai contenuti inviati dagli utenti con un tempo di data retention coincidente con quello necessario allo screening e assegnazione della marcatura, ma comunque non superiore a 7 giorni.

Tale sistema dovrebbe contribuire ad una più celere risoluzione del mezzo milione di sospetti casi mensili di Revenge porn e Sextortion [1] rilevati sull’insieme delle piattaforme di Facebook Inc. da algoritmi di IA e tramite segnalazioni degli utenti.

I social network principale veicolo di diffusione

Data le peculiarità degli strumenti di condivisione e lo stretto collegamento ad una rete di persone conosciute anche nella “vita reale”, la diffusione sui social network porta agli effetti più devastanti sulle vittime, che possono sfociare anche in atti di autolesionismo e suicidio.

Come infatti osservato dall’associazione BADASS Army (Battling Against Demeaning ad Abusive Selfie Sharing) – una delle più influenti associazioni statunitensi che si occupa della tutela dei diritti delle vittime di Revenge Porn – la pubblicazione di materiale erotico su un particolare sito Internet, ancorché ben indicizzato, non porterà alla visualizzazione del contenuto se non per il tramite di ricerca diretta; diversamente su un social network la pubblicazione porta alla conoscenza immediata da parte di tutta una serie di soggetti: nucleo familiare, colleghi di lavoro, amici e conoscenti.

Conclusioni

In conclusione, è interessante notare come nel contesto di interazione tra uomo e macchina a supporto dell’intelligenza artificiale e, nella specie, qui dove opera il Team di contrasto al Revenge Porn, l’intervento umano rimanga determinante.

Come riportato nelle interviste ai componenti del Team incaricato, ciò che l’algoritmo non è ancora in grado di distinguere in maniera corretta è la diversa percezione di “intimità” che muta a seconda del Paese da cui origina il contenuto.

L’intervento umano, in questo campo, come in molti altri dove operano sistemi di Intelligenza artificiale basati su machine learning, è volto anche a prevenire errori dell’algoritmo che possono portare a falsi positivi.

In ultima analisi, è auspicabile che anche altre piattaforme come Twitter, TikTok e Snapchat (non premium) implementino misure similari, integrando sistemi di monitoraggio più stringenti.

Finali considerazioni vanno spese in merito all’auspicabile mutamento di sensibilità sociale che, oltre ad una maggiore sensibilizzazione sull’argomento (di rilevanza crescente), dovrebbe dotarsi di maggiore comprensione verso la vittima del reato di Revenge porn, astenendosi dallo stigmatizzarne i comportamenti visti spesso, a torto, alla stregua di quelli dell’offensore.

______________________________________________________________________

  1. [] Si veda C. Mihalcik, Facebook gets about 500.000 reports of revenge porn a month, report says. The social network is using a mix of AI tools and a dedicated team to combat revenge porn, 18 novembre 2019, in https://www.cnet.com/ news/facebook-gets-about-500000-reports-of-revenge-porn-a-month-report-says/ con riferimento “a report Monday from NBC News”. Si tratta dello scritto di O. Solon, Social Media. Inside Facebook’s efforts to stop revenge porn before it spreads. The Facebook team tasked with fighting nonconsensual intimate images spoke for the first time about their research, early missteps and hopes for AI, 18/19, novembre 2019, in https://www.nbcnews.com/tech/social-media/inside-facebook-s-efforts-stop-revenge-porn-it-spreads-n1083631.
DIGITAL EVENT 13 OTTOBRE
Customer experience: tutti i vantaggi offerti dai processi di Digital Identity
CRM
Intelligenza Artificiale

@RIPRODUZIONE RISERVATA

Articolo 1 di 2