intelligenza artificiale

I danni dei deepfake in Africa: un problema etico e giuridico



Indirizzo copiato

La crescente diffusione dei deepfake in Africa pone una sfida complessa che richiede uno sforzo congiunto da parte del legislatore, delle aziende tecnologiche e della società civile per garantire un equilibrio tra innovazione tecnologica e tutela dei diritti individuali

Pubblicato il 4 dic 2023

Maria Angela Maina

ricercatrice The Thinking Watermill Society



Deepfake, come affrontare attacchi sempre nuovi: evoluzioni e sfide future

Nel marzo 2023, un workshop ospitato da WITNESS a Nairobi, in Kenya, ha riunito persone provenienti da sei Paesi africani per discutere le implicazioni dell’intelligenza artificiale generativa e dei media sintetici sui diritti umani, il giornalismo e la disinformazione.

L’evento ha evidenziato le potenziali opportunità e le allarmanti minacce poste dai deepfake generati dall’intelligenza artificiale in Africa.

Deepfake, l’impatto sulla diffusione della disinformazione negli Stati africani

Per deepfakes si intendono tutte quelle manipolazione video altamente realistiche, mentre i “cheap fakes”, sebbene molto simili, sono più rapidi, richiedono risorse minori e spesso sono meno verosimili. I falsi a basso costo includono video estrapolati dal contesto, semplici modifiche, scambio di volti e sincronizzazione delle labbra.

I deepfake hanno suscitato un’attenzione significativa a livello globale, in quanto hanno un impatto sulla diffusione della disinformazione negli Stati africani.

Esploriamo dunque il panorama in evoluzione dei deepfakes generati dall’IA in Africa, approfondendo un caso di studio, esaminando le questioni legali e con, infine, un’esortazione ad affrontare queste sfide.

L’escalation dei deepfake in Africa

La tecnologia IA deepfake consente agli utenti di creare personaggi inventati che possono diffondere qualsiasi messaggio, anche se contrario alle rispettive reali convinzioni. L’uso della tecnologia deepfake per le campagne di disinformazione è un problema globale e il suo impatto in Africa sta crescendo con l’aumento dell’accessibilità a Internet nel continente.

Burkina Faso

A gennaio, sulle piattaforme dei social media del Burkina Faso sono iniziati a circolare video insoliti. In questi video comparivano diversi individui che sembravano appoggiare il governo militare. Tuttavia, i loro movimenti erano rigidi e il movimento delle labbra non era sincronizzato con le parole: una classica caratteristica dei deepfake.

Gabon

Il presidente Bongo si era recato fuori dal Paese per cure mediche, il che aveva fatto sorgere sospetti sul suo stato di salute. Quando alla fine è stato diffuso un video del presidente, ha sollevato dubbi per la sua natura insolita.

Il presidente della Commissione dell’Unione Africana (CUA), Moussa Faki

Dei truffatori hanno impersonato il presidente della Commissione dell’Unione Africana, Moussa Faki, creando video e registrazioni audio falsi e realistici, utilizzando la tecnologia deepfake. Hanno persino coinvolto i leader europei in videochiamate in cui ad essere presente era la raffigurazione creata dall’IA del Presidente.

Questi video sintetici, generati e manipolati da software di intelligenza artificiale, hanno sollevato preoccupazioni in Burkina Faso, Gabon, CUA e non solo.

Gli aspetti legali da tenere in considerazione

L’ascesa della tecnologia deepfake in Africa pone diverse sfide legali complesse:

Violazione della privacy dei dati

La creazione e la diffusione di deepfake può violare il diritto alla privacy degli individui, nonché compromettere gravemente il diritto alla dignità di un individuo nel caso in cui venga creato un deepfake che danneggi la sua reputazione o la sua vita privata. Si tratta di un pericolo concreto, in quanto le ricostruzioni appaiono incredibilmente verosimili e gli spettatori spesso non sono in grado di rilevare che si tratti di un falso. Il recente sondaggio di KnownBe4 in cinque Paesi africani riporta che oltre il 50% degli intervistati era a conoscenza di cosa fossero i deepfake, mentre il 48% ne era poco consapevole o non ne era sicuro, rendendo concreto il rischio che deriva dal relativo utilizzo.

Diffusione della disinformazione

I deepfakes possono minare la fiducia nelle comunicazioni ufficiali e aggravare l’instabilità politica. In alcuni casi, come si è visto in Gabon nel 2018, il sospetto sui video deepfake può portare a crisi politiche, come tentativi di colpo di stato. Garantire la sicurezza nazionale di fronte alla disinformazione indotta dai deepfake è una necessità impellente. L’indagine di KnownBe4 rivela inoltre che il 74% degli intervistati ha ammesso di aver creduto a comunicazioni via e-mail, messaggi diretti o contenuti multimediali (foto o video) che erano deepfake.

Regolamentazione e responsabilità delle aziende di IA

il quadro normativo relativo ai deepfakes in Africa è in fase di sviluppo. Sono necessarie strutture legali per individuare i responsabili della creazione e diffusione dei deepfakes. Le aziende stanno sviluppando strumenti di IA per rilevare i contenuti dalla stessa generati, ad oggi purtroppo con scarsi risultati. Ad esempio, lo strumento di rilevamento di OpenAI ha avuto un basso tasso di successo nell’identificare il testo generato dall’IA.

Ostacoli all’amministrazione della giustizia

Un articolo del 2022 descrive un altro risultato negativo della tecnologia IA-deepfake come una minaccia per il sistema giudiziario. I tribunali si affidano spesso a video e fotografie come prove, tuttavia con i deepfake anche questi materiali visivi possono essere manipolati o falsificati, con il rischio di condurre le autorità giudiziarie a decisioni errate. L’articolo fornisce esempi di casi in cui sono stati presentati in tribunale video manipolati per creare una falsa impressione di colpevolezza.

Conclusioni: l’impellente necessità di una tutela legislativa, di responsabilizzazione delle aziende di IA, nonché di un’alfabetizzazione digitale

Di fronte a un panorama dove i deepfake sono in costante evoluzione, è fondamentale concentrarsi sulla sensibilizzazione dell’opinione pubblica, sulla responsabilità delle aziende di IA e su una riforma legislativa per mitigare i rischi e sfruttare i potenziali benefici dei deepfake generati dall’IA.

Creare consapevolezza e aumentare l’alfabetizzazione per educare i cittadini

È fondamentale rafforzare l’advocacy per creare consapevolezza e aumentare l’alfabetizzazione. Occorre intensificare gli sforzi per educare il pubblico sull’esistenza e sulle implicazioni dei media sintetici. Le campagne di alfabetizzazione mediatica possono mettere gli individui in condizione di valutare criticamente le informazioni e di impegnarsi con i governi e le società civili per sviluppare politiche inclusive. È necessario condurre campagne di formazione e sensibilizzazione per educare il pubblico e i professionisti, compresi giornalisti ed esperti forensi, su come individuare i deepfakes.

Le responsabilità di aziende tecnologiche e piattaforme digitali

Le aziende tecnologiche e le piattaforme digitali devono essere ritenute responsabili dei danni che causano o non riescono a prevenire con l’utilizzo di strumenti mediatici sintetici. Sono essenziali norme che richiedano valutazioni complete sui diritti umani prima di utilizzare modelli e strumenti di IA.

Soprattutto, i governi e i politici dovrebbero stabilire leggi che regolino la creazione, la distribuzione e l’uso della tecnologia deepfake, criminalizzando le attività dannose e sanzionando i responsabili.

Conclusioni

Per concludere, è importante considerare la questione sollevata da un articolo della BBC del 2020 che sembra aver anticipato i tempi: i deepfakes sono una minaccia per la democrazia o solo un divertimento? In questo caso, concordo con l’opinione dell’autore sull’impatto dei deepfakes nei Paesi in via di sviluppo come minaccia alla democrazia, soprattutto in contesti ove sussiste una limitata alfabetizzazione digitale. La diffusione di contenuti manipolati potrebbe avere gravi conseguenze sociali, tra cui l’incitamento alla violenza.

Speciale PNRR

Tutti
Incentivi
Salute digitale
Formazione
Analisi
Sostenibilità
PA
Sostemibilità
Sicurezza
Digital Economy
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati

Articolo 1 di 4