algoritmi

I social media sceriffi della rete grazie all’AI: come operano e i rischi

L’intelligenza Artificiale, pur contribuendo a velocizzare il monitoraggio esercitato da Facebook e YouTube, può cancellare contenuti che rispettano la policy e sono importanti per una società liberale e democratica. Ecco perché occorre coniugare rimozione automatica e diritti umani per algoritmi a misura d’uomo

19 Dic 2019
Federica Maria Rita Livelli

Business Continuity & Risk Management Consultant

google, facebook & Co

I social stanno sfruttando gli sviluppi dell’Intelligenza Artificiale, con le tecniche deep learning, per delegarle sempre più il compito di esaminare i contenuti illegali. E magari bloccarli prima che siano visti da qualche utente.

Questa tempestività è richiesta dalle istituzioni – in particolare per il contrasto alla propaganda terroristica, vedi il caso Christchurch andato live su Facebook, e i fenomeni di autolesionismo mostrati online in diretta.

E a testimonianza del fatto che per i big del web è un continui fine tuning, nei giorni scorsi Google-YouTube ha pubblicato nuove regole di contrasto all’hate speech.

L’efficacia dei social sui temi, proprio grazie all’AI, sta crescendo, quindi, come riportano i loro dati. Questa però è solo una faccia della medaglia.

È anche importante tenere conto anche dei diritti umani investiti; perché consegnare alle piattaforme social – e quindi agli algoritmi – la facoltà di eliminare contenuti sgraditi o illeciti, prima ancora che essi raggiungano gli utenti, pone seri rischi in termini di trasparenza e censura.

Cosa sta facendo Facebook per rimuovere i contenuti illeciti

Nell’ultimo Report sull’applicazione degli Standard della Community, pubblicato ad inizio di novembre di quest’anno, Facebook comunica di essere riuscito a rimuovere il 98% dei video e delle foto a tema terroristico, prima ancora che qualcuno potesse vederli o segnalarli.

WHITEPAPER
Una guida al deep learning: cos’è, come funziona e quali sono i casi di applicazione
Intelligenza Artificiale
Robotica

Per identificare e classificare oggetti di qualsiasi tipo presenti nei video, sono utilizzati sistemi sofisticati di machine learning, grazie ai quali Facebook è in grado di “intercettare” contenuti pericolosi (secondo la classificazione delle nudità degli adulti ed attività sessuale, bullismo e molestie, nudità infantile e sfruttamento sessuale dei bambini, account falsi, hate speech, merci regolamentate quali farmaci ed armi da fuoco, propaganda terroristica, contenuti violenti e grafici, suicidio ed autolesionismo).

Un monitoraggio dei video in tempo reale, che fa uso delle reti neurali artificiali (sistemi di deep learning in grado di riconoscere immagini e linguaggio) intercetta le caratteristiche e i comportamenti di oggetti noti, classificati secondo percentuali diverse in base al grado di “fiducia/non pericolosità”.

Le reti neurali artificiali – programmate in base a combinazioni di video precedentemente classificati dai “moderatori umani” – sono in grado, in base alle segnalazioni ricevute dagli utenti e, prossimamente, in base ai video forniti dalla Metropolitan Police di Londra, di elaborare le informazioni ricevute e prevedere cosa verrà pubblicato in video e quali comportamenti o immagini saranno da considerate pericolose o problematiche, rimuovendole automaticamente o inviandole ai “mediatori umani” che, se confermeranno la non conformità agli standard, creeranno un “codice/hash” di riferimento. Successivamente tale “codice/hash” sarà divulgato all’interno di tutto il sistema, eliminando automaticamente tutti gli altri contenuti analoghi, impedendo così che vengano ricaricati. Inoltre, questi “codici/hash” possono essere condivisi con altre piattaforme social ed essere d’aiuto alle autorità preposte alla sicurezza in tema di prevenzione, in modo da aggiornare i vari attori sui file offensivi o su tematiche terroristiche presenti in rete.

Detto questo, per i post sul bullismo, sulle molestie e su varie forme di violenza, Facebook si basa ancora soprattutto sulle segnalazioni degli utenti in quanto solo il 16% di quei casi biasimevoli vengono rilevati dai sistemi di Intelligenza Artificiale. In questi casi si mostrano infatti anche i limiti dell’AI, che ha difficoltà a cogliere le sfumature di senso, i toni dell’ironia e distinguerli da quelli dell’offesa e della discriminazione.

Le contromisure di YouTube

YouTube è stata accusata in passato di non “ripulire” in modo efficace la piattaforma dai contenuti offensivi o pericolosi. Nell’ultimo anno ricercatori e giornalisti hanno rivolto particolare attenzione all’algoritmo di YouTube, denunciando come esso contribuisca a fomentare pericolose forme di radicalizzazione di ragazzi e al proliferare di casi in cui video di minori sono suggeriti a fianco di video sessualmente espliciti, che possono indurre a pensare che l’algoritmo stia favorendo il comportamento dei pedofili.

Anche YouTube, di conseguenza, ha iniziato a impiegare sistemi di Machine Learning e algoritmi e pubblica trimestralmente un rapporto sul grado di implementazione degli Standard della Community; tuttavia, le misure adottate non sembrano essere sufficientemente efficaci. Sembra che il problema sia determinato dal fatto che il sistema non sia in grado di comprendere il contesto in cui certi contenuti sono stati diffusi e, di conseguenza, può interpretarli in modo completamente opposto. A questo punto, la piattaforma social, all’inizio di giugno di quest’anno, ha annunciato la volontà di introdurre nuove misure atte a combattere l’odio ed il razzismo on line, la diffusione di fake news, nonché le varie forme di suprematismo bianco, di negazionismo dell’Olocausto o di complottismo.

Le nuove regole per i contenuti molesti su Youtube, annunciate la scorsa settimana, sono:

  • Le norme proibiranno non solo le minacce esplicite (come già avviene), ma anche quelle velate o implicite
  • Non saranno più tollerati contenuti che insultino qualcuno sulla base di caratteristiche personali e sensibili, come la provenienza o l’etnia, l’identità di genere o l’orientamento sessuale
  • I canali che violeranno e si opporranno alle norme verranno messi nelle condizioni di non poter più guadagnare dalla nostra piattaforma, fino alla chiusura del canale
  • Gli aggiornamenti alle norme verranno applicati anche ai commenti, con un potenziale aumento rispetto ai già 16 milioni di interventi nel primo trimestre
  • Anche i creator potranno intervenire nelle conversazioni, segnalando i commenti che, pur non violando apertamente le nostre norme, risultano essere inappropriati

Inoltre, è di questi giorni l’entrata in vigore di un ulteriore cambiamento delle policy di YouTube: saranno rese più restrittive le norme legate alla violenza dei videogame, nel senso che solo i maggiori di 18 anni potranno visualizzare i video con grafici violenti e addirittura, qualora si riscontrasse che la violenza ne fosse l’essenza stessa e il fine ultimo, YouTube non esiterà a porvi delle ulteriori limitazioni o ad eliminarlo

Il lato oscuro dell’intelligenza artificiale: quale futuro ci attende?

L’intelligenza artificiale, pur contribuendo a facilitare e velocizzare l’attività da “sceriffi” esercitata da Facebook e YouTube, può cancellare preventivamente alcuni contenuti non contestualizzati che, di fatto, rispettano la policy e risultano essere di cruciale importanza per una società liberale e democratica, quali la trasmissione della storia, della cultura e della religione.

Il sistema interviene in modo automatico senza distinguere l’intenzione con cui certi contenuti o immagini siano stati diffusi, dimostrando come nessun algoritmo, al momento, sia in grado di “selezionare/filtrare” in modo autonomo e senza conseguenze.

Facebook e YouTube, attraverso gli Standard della Community e la moderazione dei contenuti dimostrano, di fatto, di confrontarsi con i diritti degli utenti e la libertà d’espressione, dal momento che l’Intelligenza Artificiale non è sufficientemente avanzata per individuare le sfumature del linguaggio utilizzato, del registro discorsivo, delle differenze a seconda dei contesti culturali.

Sorge, dunque, spontaneo domandarsi se monitorare non significhi – in alcuni casi – “censurare” a priori, silenziare le voci critiche. Inoltre, c’è chi ritiene che, alla fine, i contenuti “scomodi” e pericolosi rimarranno, mentre sono destinati a sparire i diritti e le libertà degli individui. Il rischio è tale che 70 esperti di Internet, tra i più autorevoli al mondo, hanno inviato nel 2018 una lettera al Presidente del Parlamento Europeo denunciando il fatto che “la richiesta alle piattaforme digitali di condurre un filtraggio precedente, porta verso la trasformazione di Internet da una piattaforma aperta per condividere e innovare, a uno strumento per la sorveglianza e il controllo automatico degli utenti”.

Anche il fatto che Facebook e YouTube, ricorrendo all’Intelligenza Artificiale per la fattispecie, non abbiano rinunciato all’esame finale, “di appello” da parte dei “mediatori umani”, evidentemente non è bastato a convincere i paladini delle libertà democratiche senza sì e senza ma.

I social non sono piattaforme neutre

Ricordiamoci quanto affermato da Zuckerberg, in modo provocatorio, durante l’interrogatorio da parte dei senatori Usa in merito al caso di Cambridge Analytica e, precisamente: “I social non sono più piattaforme neutre e sono responsabili dei contenuti e saranno talmente infallibili che i contenuti leciti resteranno online indisturbati, e quelli illeciti non vedranno nemmeno la luce del monitor”. Si è passati, di fatto, da un approccio “reattivo” alla moderazione dei contenuti (in cui la piattaforma interviene solo a seguito di segnalazione) a un approccio “proattivo”. Ne consegue che stiamo consegnando alle piattaforme social la facoltà di eliminare contenuti sgraditi o illeciti, prima ancora che essi raggiungano gli utenti e, questo, grazie a sistemi di monitoraggio e di intervento sui contenuti che risultano essere del tutto indipendenti da ogni richiesta da parte degli utenti o titolari di diritti.

Al momento non esiste un algoritmo in grado di estirpare il male, la violenza e le varie tipologie di discriminazioni, né tanto meno esiste una macchina intelligente che sia in grado di riprodurre conversazioni articolate e razionali, salvo in futuro essere smentiti. Se ciò si verificasse, ci ritroveremmo in una società basata sul politicamente corretto, sul conformismo, assoggettati alla volontà dei “moderatori automatici”; più decisioni arbitrarie estrapolate dal contesto, meno trasparenza, più rapidità nella rimozione (che può comportare rimozioni errate), più censura.

Stiamo consegnando agli algoritmi la gestione di quello che è dicibile/visibile e indicibile/non visibile, che implica considerare misure atte a garantire più trasparenza, più informazioni sulle rimozioni umane e automatizzate, maggiori strumenti a disposizione degli utenti per fare appello alle decisioni delle piattaforme social.

Solo coniugando la rimozione automatica e i diritti umani saremo in grado in futuro di garantire una collaborazione tra intelligenza artificiale e intelligenza umana, sviluppando algoritmi più a “misura d’uomo” e non piattaforme digitali a “misura d’algoritmo”.

WHITEPAPER
Come l'AI può rendere più performante ed efficace una strategia di Marketing?
CRM
Intelligenza Artificiale
@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati