Immaginiamo di chiedere a un sistema di intelligenza artificiale generativa di produrre l’immagine di un chirurgo e poi quella di un infermiere, poi proviamo con quella di un amministratore delegato e infine quella di un babysitter. Se avete già provato questo tipo di esperimento con uno dei principali modelli disponibili sul mercato negli ultimi due anni, conoscete già la risposta. Il chirurgo sarà con ogni probabilità un uomo bianco di mezza età, l’infermiere diventerà quasi certamente una donna giovane, l’amministratore delegato indosserà un abito scuro e difficilmente avrà un volto femminile, mentre il babysitter sarà donna quasi senza eccezioni.
Tutt’altro che casi isolati o disfunzioni marginali, questi sono solo esempi che rappresentano perfettamente una tendenza sistemica che attraversa i principali strumenti di generazione visiva oggi disponibili.
Quello che fino a pochi anni fa rimaneva un problema tecnico discusso prevalentemente tra ricercatori e ricercatrici di informatica (il cosiddetto bias algoritmico) è diventato, con la diffusione di massa dei chatbot generativi e dei sistemi di generazione di immagini, un fenomeno direttamente sperimentabile da chiunque disponga di una connessione internet. Questa visibilità è, paradossalmente, una delle novità più significative degli ultimi anni nel dibattito sull’intelligenza artificiale. I pregiudizi non si nascondono più dentro architetture opache, ma emergono nelle risposte quotidiane dei chatbot. E una parte rilevante di questi pregiudizi riguarda il genere.
Indice degli argomenti
Da nascosto a visibile: la svolta generativa
Il problema del bias nei sistemi di machine learning è un conoscente di vecchia data. Già nel 2016 un algoritmo usato da alcuni tribunali statunitensi per valutare il rischio di recidiva dei detenuti fu documentato come sistematicamente più severo con gli imputati afroamericani. Nello stesso periodo, ricercatori di Amazon scoprirono che un sistema di selezione automatica dei curricula penalizzava le candidate donne, avendo appreso i propri criteri da decenni di assunzioni storicamente sbilanciate verso gli uomini. Questi casi sollevarono discussioni importanti, ma restavano ancora abbastanza invisibili all’utente finale. Il bias agiva silenziosamente dentro i sistemi decisionali, lontano dall’esperienza quotidiana della maggior parte delle persone.
Con i Large Language Model (LLM) e i sistemi di generazione di immagini (come ChatGPT, Midjourney o Stable Diffusion) la situazione cambia radicalmente. Questi strumenti producono output direttamente fruibili, che si tratti di testo scritto o di immagini generate su richiesta. Il bias, oggi, ha smesso di essere una variabile nascosta in un sistema decisionale, per diventare la risposta che, a chiare lettere, appare sullo schermo. Chiunque può interrogare questi strumenti, confrontare le risposte e documentare le asimmetrie che restituiscono. Questo ha prodotto una sorta di citizen science involontaria. Migliaia di utenti in tutto il mondo hanno documentato le asimmetrie nei comportamenti dei modelli confrontando prompt identici con la sola variabile del genere e hanno pubblicato i risultati sui social network. Il dibattito si è allargato ben oltre la comunità accademica e questo allargamento ha ormai le dimensioni di una questione politica che merita di essere riconosciuta.
Bias di genere nell’AI e immagini che costruiscono il mondo
Il campo in cui il bias di genere è più immediatamente percepibile è quello della generazione di immagini. I modelli text-to-image vengono addestrati su enormi dataset di immagini tratte dal web (miliardi di fotografie e illustrazioni di ogni tipo) insieme alle didascalie o ai metadati che le descrivono. Questi dataset riflettono la distribuzione reale, storicamente diseguale, delle rappresentazioni visive nella cultura digitale. Nelle immagini di potere, di scienza o di sport prevalgono i volti maschili, mentre nei contesti di cura, domesticità e bellezza prevalgono quelli femminili. Sembrerebbe che il modello apprenda una regola astratta, ma non è così, ciò che il modello apprende è una distribuzione statistica che viene banalmente riprodotta quando genera nuove immagini. Questa riproduzione è potenzialmente infinita, produce un messaggio ricorrente che, alla lunga, si conferma negli immaginari di chi legge e cerca notizie, come se fosse naturale, normale.
Le conseguenze sono ormai lungamente documentate. Una ricerca pubblicata nel 2023 da Bloomberg su Stable Diffusion ha mostrato che il modello, quando sollecitato a generare immagini di persone in determinate professioni senza specificare il genere, produceva figure femminili quasi esclusivamente per ruoli di assistenza e servizio, mentre associava figure maschili a professioni come ingegnere o avvocato. Un’altra analisi, condotta su DALL-E, ha rilevato che la richiesta di generare l’immagine di una persona di successo produceva con netta prevalenza figure maschili, spesso in contesti urbani e formali. Il problema, anche qui, si conferma come un problema molto più che statistico. Se consideriamo che i dataset e i sistemi AI vengono ormai usati per generare materiale visivo destinato a circolazione reale, dalle presentazioni aziendali ai contenuti editoriali, passando per i materiali didattici, capiamo bene come il bias si possa trasferire facilmente dal modello all’immaginario, dal modello al mondo.
Va detto che alcuni dei principali sistemi hanno introdotto negli ultimi anni meccanismi di diversificazione forzata, per cui quando si chiede di generare un medico senza specificare il genere certi modelli ora producono alternanze tra figure maschili e femminili. Ma questa soluzione (benché preferibile all’assenza di qualsiasi correttivo) introduce una diversità artificiale che non riflette una comprensione critica del problema né un cambiamento nei dati di addestramento e, pertanto, rimane un correttivo superficiale piuttosto che una riforma strutturale.
Professioni, competenze, carriere: il curriculum che l’AI non consegna alle donne
Più sottile e, forse, più insidioso nel suo impatto quotidiano, è il bias che emerge nelle interazioni testuali sui temi del lavoro e della carriera. Diverse ricerche hanno confrontato le risposte dei principali LLM a prompt identici in cui cambia solo il genere del soggetto, chiedendo per esempio come comportarsi per ottenere un aumento di stipendio e modificando tra una versione e l’altra solo il genere del parlante. Emergono risultati molto interessanti, la maggior parte, sono risultati asimmetrici in cui alle donne vengono forniti consigli che enfatizzano la comunicazione empatica e la diplomazia, mentre agli uomini vengono suggerite strategie più dirette, orientate alla negoziazione e alla valorizzazione dei risultati quantitativi.
Lo stesso schema emerge nei consigli di carriera più in generale. Se si chiede a un LLM di suggerire percorsi di crescita professionale per un profilo analogo variando solo il genere, le risposte tendono a differire nella direzione attesa dagli stereotipi consolidati. Alle donne vengono più frequentemente suggeriti percorsi laterali o ruoli di coordinamento, mentre agli uomini si propone con maggiore frequenza una crescita gerarchica verticale e una leadership diretta. La tendenza non è uniforme in tutti i modelli né costante nella sua intensità, ma è documentata con sufficiente coerenza da non poter essere liquidata come varianza casuale.
Ancora più rilevante è ciò che accade quando si chiede al sistema di valutare un testo (un curriculum o una proposta di progetto) variando solo il nome del mittente tra uno chiaramente maschile e uno chiaramente femminile. Alcuni studi hanno rilevato differenze nella valutazione della competenza percepita e dell’autorevolezza attribuita, con effetti diretti sulla probabilità che il candidato venga raccomandato per una posizione di responsabilità.
Il modello rispecchia in questi casi un bias ben documentato nella letteratura psicologica e sociologica sul mercato del lavoro, secondo cui a parità di qualifiche i nomi letti come femminili ricevono valutazioni sistematicamente inferiori in molti contesti professionali. L’AI non lo inventa, ma lo eredita dai dati umani su cui è stata addestrata.
La leadership senza volto di donna
Il tema della leadership merita un approfondimento specifico, perché è uno degli ambiti in cui il bias emerge con maggiore regolarità e con implicazioni pratiche particolarmente significative. Quando si chiede a un LLM di descrivere le caratteristiche di un buon leader, le qualità elencate tendono a corrispondere a quello che la letteratura chiama leadership agentica, fondata sull’assertività, la capacità decisionale e l’orientamento al risultato. Queste sono qualità culturalmente associate al maschile. Le qualità legate all’ascolto, alla mediazione e alla costruzione del consenso (storicamente relegate allo stereotipo femminile) compaiono meno frequentemente, o vengono presentate come complementari e secondarie.
Quando invece si chiede esplicitamente di descrivere uno stile di leadership femminile, molti modelli scivolano verso una rappresentazione che riproduce, spesso acriticamente, il frame della leadership al femminile elaborato dalla letteratura manageriale degli anni Novanta e Duemila, secondo cui la leader sarebbe per natura empatica, collaborativa e orientata alle persone. Questa rappresentazione non è necessariamente falsa, ma è certamente riduttiva e, soprattutto, produce una biforcazione concettuale per cui esiste una leadership (neutra, di default maschile) e poi una leadership femminile (specifica, connotata, trattata come variante), per cui la donna leader viene costruita discorsivamente come eccezione rispetto alla norma, anziché come sua espressione ordinaria.
Questo schema ha conseguenze concrete. I sistemi di AI vengono sempre più usati in contesti aziendali per supportare processi di valutazione, selezione e sviluppo delle risorse umane. Se il modello associa la leadership al maschile, tenderà a valutare come non-leadership i comportamenti e gli stili tipicamente femminili, anche quando questi sono strategicamente efficaci. Il bias algoritmico si inserisce così dentro processi decisionali reali, amplificando disuguaglianze che le organizzazioni dichiarano di voler ridurre.
Il linguaggio che esclude: generi grammaticali e invisibilità
C’è una dimensione del bias di genere nell’AI che riguarda il linguaggio in senso stretto e che assume caratteristiche specifiche in italiano rispetto all’inglese. I LLM sono stati addestrati prevalentemente su corpus in lingua inglese, una lingua che non ha genere grammaticale per i sostantivi comuni e che usa il neutro singolare they come pronome gender-inclusive. Quando i modelli operano in italiano, applicano però una lingua in cui il genere grammaticale è pervasivo e dove la norma prescrittiva tradizionale (contestata da decenni di riflessione linguistica e femminista) impone il maschile come forma non marcata e anche come forma di plurale esteso.
Il risultato è che i LLM tendono a usare il maschile come default anche in italiano.
Chiediamo a un chatbot di descrivere uno studente universitario tipico senza specificare il genere e la narrazione che ne emerge sarà quasi sempre al maschile. Chiediamo, poi, di raccontare la storia di un imprenditore, difficilmente il modello sceglierà autonomamente di usare il femminile. Questa scelta linguistica non è neutrale, perché riflette e riproduce una gerarchia per cui il maschile funge da forma universale mentre il femminile è trattato come caso particolare e derivato.
Alcune sperimentazioni mostrano poi che i modelli reagiscono diversamente al genere del soggetto nelle narrazioni. Quando si chiede di scrivere la storia di una donna che scala una grande azienda, la narrazione inserirà spesso ostacoli legati alla vita familiare e al conflitto tra ambizione e cura. La storia analoga di un uomo è più frequentemente lineare, centrata sulle competenze e sui risultati. La tendenza non è uniforme in tutti i modelli, ma è sufficientemente coerente da segnalare un problema sistemico.
Le radici strutturali del bias algoritmico
Per capire perché tutto questo accade, è necessario fare un passo indietro e guardare alla struttura stessa dei sistemi di AI generativa. I LLM vengono addestrati su quantità enormi di testo prodotto da esseri umani nel corso del tempo, che comprende libri, articoli scientifici, pagine web e contenuti di ogni tipo. Questo testo riflette la cultura, i valori, le gerarchie e i pregiudizi delle società che lo hanno prodotto. Un modello addestrato su testi scritti prevalentemente da uomini, che descrivono mondi prevalentemente pensati per e da uomini, apprenderà quella visione del mondo come se fosse la realtà.
A questo si aggiunge il problema della misurazione. Fino a pochi anni fa, la valutazione delle prestazioni dei LLM si concentrava su metriche di accuratezza, coerenza e fluidità del testo prodotto. La dimensione dell’equità (quanto il modello si comporta in modo equo rispetto a diversi gruppi sociali) era sistematicamente trascurata o misurata con strumenti grossolani. Questo ha fatto sì che i modelli più performanti secondo le metriche tradizionali fossero anche quelli che riproducevano più fedelmente le distribuzioni statistiche dei dati di addestramento, inclusi i bias di genere.
Il processo di Reinforcement Learning from Human Feedback (RLHF), che viene usato per affinare i modelli sulla base delle preferenze degli utenti umani, introduce un’ulteriore complicazione. Se le persone che valutano le risposte del modello appartengono a popolazioni non rappresentative (sovrarappresentate per genere, provenienza geografica o classe sociale) le loro preferenze diventeranno il criterio di ottimizzazione del sistema. Un modello addestrato principalmente da valutatrici e valutatori di una certa provenienza culturale tenderà a produrre output considerati buoni da quella cultura specifica, con tutti i limiti che questo comporta.
Non è neutro, non è inevitabile
Una narrazione che circola ancora con una certa resistenza afferma che i sistemi di AI siano fondamentalmente neutrali, specchi oggettivi della realtà. Questa narrazione è sbagliata su entrambi i termini. Non sono specchi, perché non riflettono la realtà nel suo complesso ma campioni selezionati di essa, elaborati attraverso architetture e funzioni di ottimizzazione che amplificano certe distribuzioni e ne sopprimono altre. E non sono oggettivi, perché ogni decisione presa nella loro costruzione (cosa includere nei dati di addestramento, come definire le metriche di valutazione, come gestire i casi ambigui) è una scelta umana, compiuta da persone con posizioni sociali, valori e punti ciechi specifici.
L’argomento più importante da contrastare è però quello della inevitabilità. Se i dati riflettono il mondo com’è, e se il mondo è strutturato da disuguaglianze di genere consolidate, allora un sistema addestrato su quei dati riprodurrà quelle disuguaglianze e non ci sarebbe molto da fare. Questa logica è seduttiva nella sua apparente coerenza, ma contiene un errore fondamentale, ovvero la confusione tra la descrizione di ciò che esiste e la prescrizione di ciò che dovrebbe esistere. Un sistema che apprende dal passato non è tenuto a riprodurre il passato e può (secondo molte ricercatrici e ricercatori del settore, addirittura deve) essere progettato per non amplificare le disuguaglianze storiche. La domanda pertinente non è se rispecchia il mondo com’è, quanto piuttosto quale mondo contribuisca a costruire.
I sistemi di AI non sono fenomeni naturali, ma artefatti tecnici e sociali, progettati da organizzazioni con interessi, strutture e culture specifiche. Le scelte progettuali contano, così come la composizione dei team di ricerca (ed è significativo che le donne siano ancora una minoranza nelle posizioni di ricerca e sviluppo nei principali laboratori di AI). I dati scelti per l’addestramento, le metriche di valutazione e le policy sull’uso non sono dettagli tecnici secondari, sono variabili che determinano quali visioni del mondo vengono incorporate nel sistema. Non c’è nessuna legge di natura che imponga che un sistema di AI riproduca stereotipi di genere. Quelli che sembrano limiti ineludibili sono in realtà il risultato di scelte accumulate nel tempo, molte delle quali possono essere cambiate.
Verso un’AI che non dimentichi le donne
Sul piano tecnico, la ricerca ha prodotto negli ultimi anni strumenti promettenti per misurare e ridurre il bias, dalle tecniche di debiasing dei dataset ai metodi di auditing sistematico dei modelli su dimensioni di equità. Alcune organizzazioni hanno iniziato a rendere pubblici i risultati di questi audit (una pratica di trasparenza che andrebbe incoraggiata e, in alcuni contesti, resa obbligatoria). L’AI Act europeo, entrato in vigore nel 2024, introduce per i sistemi ad alto rischio obblighi di trasparenza e requisiti di non discriminazione che rappresentano un primo passo importante, anche se la sua applicazione concreta richiederà un monitoraggio attento.
Sul piano culturale e organizzativo, è necessario che la diversità di genere (e più in generale la diversità nelle sue molteplici dimensioni) sia presente non solo nelle policy dichiarate delle aziende che sviluppano AI, ma nei team che effettivamente costruiscono i modelli, ne definiscono i criteri di addestramento e progettano i sistemi di valutazione. Non perché le donne abbiano una sensibilità speciale per questi temi (il che sarebbe già una forma di stereotipo), ma perché team omogenei tendono a condividere punti ciechi omogenei.
Sul piano dell’uso, infine, vale la pena sviluppare una cultura critica dell’interazione con i sistemi di AI, ovvero la consapevolezza che i modelli sono ben lontani dall’essere oracoli neutrali e sono da considerare come sistemi che tendono semplicemente a riprodurre meccanicamente distribuzioni statistiche del passato. Interrogare i modelli in modo critico, testare le loro risposte con variabili di genere diverse e riconoscere quando un output è stereotipato piuttosto che accettarlo come descrizione della realtà sono pratiche che più che richiedere competenze tecniche specialistiche, necessitano di una certa alfabetizzazione critica che è compito della divulgazione scientifica contribuire a costruire.
L’intelligenza artificiale ha un genere? Non nel senso biologico, ovviamente. Ha sicuramente una storia, e quella storia è fatta di scelte umane che riflettono gerarchie umane.
Renderlo visibile (come stanno facendo, spesso inconsapevolmente, le migliaia di utenti che ogni giorno documentano le asimmetrie nei comportamenti dei chatbot) è il primo passo per cambiarlo.
Partecipa alla community