Deepfake porno, troppo facile spogliare le donne con l’AI: la prova

Consigli, da utente a utente, per creare materiale pornografico, illecito e non, con comuni tool di intelligenza artificiale generativa, suggerendo in particolare Grok Imagine. Trucchetti di prompt che servono ad aggirare le barriere anti contenuti proibiti adottati dai sistemi di AI generativa.

Una guida che abbiamo scovato sul forum SocialMediaGirls, piattaforma dove sono state caricate normali foto di donne note, anche italiane, rese porno dopo esser state spogliate con l’AI.

E abbiamo capito quanto sia facile e veloce creare questi contenuti, anche gratis. Senza dover usare altri strumenti (con llm open source), poco conosciuti, complessi e spesso a pagamento: bastano i normali e comuni chatbot, insomma.

Quando è facile (e gratis) il deepfake porno non consensuale, con i normali chatbot

Altre guide simili si trovano su Reddit e forum di altri siti di deepfake, beninteso.

Corpi nudi alla portata di tutti, facilmente realizzabili, sotto forma di immagini o di video.

La vicenda della piattaforna con contenuti pornigrafici e anche sessisti SocialMediaGirls che segue quella del forum Phica chiuso ad agosto, è venuta alla luce dopo la segnalazione via social della conduttrice Francesca Barra, vittima del deepfake e venuta a conoscenza dell’abuso subito a sua insaputa.

Utilizzando i prompt presenti nel thread di SocialMediaGirls, che non riporteremo, abbiamo provato a realizzare contenuti pornografici leciti, utilizzando immagini fittizie femminili create a loro volta con l’AI gen, specificando nella richiesta che fossero adulte.

Elementi che portano a comprendere perché quello del deepfake porno sia un mercato interessante sul fronte del business anche per i criminali.

Certo esistono numerose app, come ClothOff bloccata di recente dal Garante privacy italiano. Ma è interessante indagare come il fattore pornografico sia presente anche in un comune strumento di AI Gen, utilizzato da molti quotidianamente, come Grok Imagine.

Deepfake porno, così gli utenti del forum si scambiano consigli

Il forum SocialMediaGirls è suddiviso in varie sezioni. Una, in particolare, è dedicata alle immagini fake. Contiene sia immagini e video creati da zero, sia immagini e video modificati partendo da contenuti reali.

Per esempio, ci sono immagini di donne note dello spettacolo rese pornografiche attraverso l’uso dell’AI. La sezione è suddivisa in thread, dove gli utenti si scambiano messaggi su un determinato tema. In uno di questi, un membro del forum ha avviato il 9 ottobre un discorso per mettere in comune, tra utenti, le proprie competenze nella creazione dei video fake.

Molti rispondono con i propri prompt. Quasi tutti suggeriscono l’uso di Grok Imagine: è gratuito e permette di creare video di nudo senza particolari competenze o richieste, partendo da testo o da immagini.

Non sempre è facile però far fare all’AI gen quel che esattamente vogliamo e allora ecco che gli utenti meno esperti chiedono consigli ai veterani del deepfake, che rispondono con grande cordialità condividendo prompt estremamente espliciti e dettagliati che non ripeteremo qui. Però, ci abbiamo provato.

Video soft porno con Grok Imagine

Premettiamo: i nostri output sono molto fake. Non volendo utilizzare immagini di persone reali, abbiamo adottato un escamotage. Abbiamo chiesto a ChatGPT di creare l’immagine di una donna, specificando adulta, completamente vestita. Dopodiché abbiamo caricato l’immagine fake su Grok Imagine chiedendo al tool di far spogliare la donna, rivelando sotto al maglione grigio un bikini verde.

Grok ha eseguito il comando in pochi istanti, restituendo un video aderente alla richiesta anche se palesemente finto e impreciso: il maglione sembra saltare via dal corpo della donna. L’anatomia del corpo viene comunque mostrata in modo realistico, con dettagli di ombre della muscolatura e della gabbia toracica, nonché dei seni. Le mani invece sono irrealistiche.

Video porno con Grok Imagine

La modalità gratuita di Grok Imagine permette, con 10 crediti (5 a video) di creare video anche partendo da un prompt testuale. Abbiamo chiesto quindi a Grok, usando un prompt non tanto dettagliato, di creare un video in cui si vedesse il seno nudo della donna descritta nel testo. Grok ha fatto spogliare il personaggio, fittizio, anche se in modo un po’ goffo – sembra togliersi il reggiseno ma questo resta indossato e poi improvvisamente sparisce.

Abbiamo poi dettagliato ulteriormente il prompt per creare effetti particolari della pelle e dettagli delle mani e Grok ha eseguito, come si vede nell’immagine sottostante tratta da un video da noi creato. La donna fittizia rappresentata era in grado di togliersi il bikini e mostrarsi nuda.

Il tutto quindi in modo completamente gratuito e accessibile.

Deepfake con la Spicy mode di Grok

Grok Imagine dispone della funzione Spicy mode che, come lo stesso Grok a cui abbiamo chiesto lumi ci spiega, “permette contenuti più audaci, inclusi elementi NSFW (come nudità parziale o temi sessualizzati), con filtri meno rigidi rispetto alla concorrenza”. NSFW significa not safe for work, cioè contenuti inappropriati per un ambiente professionale. Ci tiene Grok a sottolineare, in questa sua spiegazione, che Dall-E di OpenAI al contrario, ha barriere anti nudo più solide ed è meno permissivo. Ma anche che non tutto è permesso, nemmeno nella spicy mode.

Le facili barriere degli llm

Colpisce vedere quanto gli llm abbiano reso davvero alla portata di tutti un fenomeno che, ricordiamo, è reato specifico in Italia: il deepfake non consensuale (porno o no).

I trucchetti condivisi dagli utenti confermano come le barriere (guardrail) degli llm comuni sono sempre aggirabili, almeno in una qualche misura. Basta trovare il prompt giusto. Per come sono stati addestrati gli llm e per come funzionano, non è possibile insomma circoscriverne o determinarne l’azione in modo preciso.

Il risultato è che la loro portata resta in parte sempre imprevedibile per utenti e società.

Insomma, se possibile obbligarli a fare porno, lo è anche con altri potenziali reati o illeciti, verrebbe da pensare. Dal terrorismo alla disinformazione. E tutto questo senza considerare gli llm open source, più facilmente manipolabili.

Perché si fanno deepfake porno: le dinamiche delle comunità online

Non stupisce poi la presenza di deepfake e altro materiale AI based pornografico nelle community online. E del resto, non tutto il porno è illecito, naturalmente.

Il confine si supera quando si abusa di altre persone, sfruttandone l’immagine senza avere il loro consenso. Alla base ci sono motivazioni sia di stampo culturale, come l’intrinseca considerazione della donna come oggetto da possedere tipica del maschilismo tossico, sia legate alle dinamiche interne di certe comunità online, dove si condividono valori che non per forza sono allineati a quelli dominanti della società in cui si vive.

Il condividere consigli su come creare video porno e deepfake di celebrità è un modo di fare da cameratismo, nell’accezione negativa del termine, che spinge al dialogo, al confronto su temi di interesse comune e unisce i membri coinvolti, portati a sentirsi meno inibiti di fronte alle scelte, seppur sbagliate, della maggioranza. Il risultato, però, delle pratiche illecite attuate nel cyber spazio sull’immagine delle donne reali, ha un nome ben preciso: violenza di genere.