intelligenza artificiale

Dalla certezza all’inganno: la fiducia fragile nell’AI generativa


Indirizzo copiato

L’intelligenza artificiale non si limita a calcolare: persuade, imita l’empatia e sfrutta i meccanismi cognitivi della fiducia. Pubblicità invisibile, opacità dei modelli e supervisione umana inefficace impongono nuove regole fondate sulla responsabilità delle imprese e sulla tutela della libertà di scelta

Pubblicato il 20 ott 2026

Gerardo Costabile

Executive Vice President Dinova



AI Questions Icon
Chiedi all'AI
Riassumi questo articolo
Approfondisci con altre fonti
ChatGPT Image 20 ott 2026, 11_07_29




Chi lavora ogni giorno sul campo della cybersecurity e della prevenzione delle frodi impara presto una lezione fondamentale: la fiducia non è mai una virtù tecnica, è una vulnerabilità primaria.

Ogni volta che concediamo un accesso senza fare un controllo, ogni volta che diamo per scontato che un messaggio sia autentico o che un sistema stia dicendo la verità, stiamo aprendo una fessura nell’infrastruttura di sicurezza. Eppure, per decenni abbiamo costruito il nostro rapporto con i computer proprio sulla base contraria: una fiducia cieca, rassicurante e quasi devota.

Questa fiducia aveva una solida ragion d’essere. I calcolatori sui quali abbiamo strutturato la civiltà moderna erano macchine strettamente deterministiche. Funzionavano secondo le regole ferree della logica booleana: istruzioni sequenziali, rigore matematico e prevedibilità assoluta.

Se il programmatore non commetteva errori di compilazione o falle logiche nel codice, due più due faceva sempre quattro. Il sistema non improvvisava, non cercava di indovinare, non conosceva sfumature o dubbi. Se sbagliava, lo faceva in modo rumoroso ed evidente: un crash di sistema, un blocco irreversibile, una schermata d’errore incomprensibile. Di fronte a quella rigidità, la fiducia dell’utente non era un atto di fede verso un’entità misteriosa, ma l’affidamento razionale a un meccanismo che eseguiva fedelmente compiti prestabiliti.

Fiducia nell’intelligenza artificiale: dal calcolo alla persuasione

Oggi quel patto originario si è dissolto nel nulla, ma la maggior parte delle persone continua a comportarsi come se fosse ancora intatto.

I modelli linguistici avanzati e gli agenti autonomi di nuova generazione non sono calcolatori deterministici; sono sistemi intrinsecamente probabilistici. Non deducono la realtà attraverso assiomi né verificano i fatti: calcolano correlazioni statistiche all’interno di matrici matematiche sterminate. Quando un modello risponde a una domanda o compie un’azione, non consulta un archivio di verità verificate, ma stima la sequenza di parole o di comandi dotata della più alta probabilità statistica di apparire coerente con il contesto. In altre parole, l’AI non elabora la verità: calcola e confeziona una plausibilità convincente.

Il cortocircuito operativo nasce proprio qui. L’essere umano interagisce con queste nuove architetture applicando d’istinto la fiducia che riservava ai vecchi elaboratori. Se una risposta appare su uno schermo formulata con un tono pacato, autorevole e privo di esitazioni, la nostra mente la cataloga automaticamente come un dato di fatto oggettivo. L’intelligenza artificiale generativa ha sviluppato l’arma tipica dell’ingegneria sociale: la persuasione fluida, la capacità di imitare la risonanza emotiva dell’interlocutore e l’abilità di nascondere l’errore o la falsità sotto una veste impeccabile. Mentre il computer del 1990 falliva bloccandosi, l’AI fallisce seducendo.

Perché il cervello si fida dell’intelligenza artificiale

Per comprendere fino in fondo perché cadiamo in questa trappola, l’analisi informatica da sola non basta più: dobbiamo guardare dentro il funzionamento del cervello umano. L’intelligenza artificiale non sta semplicemente superando i nostri software; sta eseguendo un vero e proprio exploit delle nostre architetture neurali, evolutesi per centinaia di migliaia di anni in contesti in cui solo un altro essere umano poteva parlare, argomentare o mostrare comprensione.

Fluidità cognitiva e credulità sintetica

La psicologia cognitiva, attraverso il modello dei processi duali reso celebre da Daniel Kahneman, ci insegna che la mente opera secondo due regimi distinti: il Sistema 1, veloce, intuitivo, associativo e a bassissimo consumo energetico; e il Sistema 2, riflessivo, logico, analitico ma estremamente faticoso dal punto di vista metabolico.

Il nostro cervello è un organo risparmiatore di energia: ogni volta che può, delega il giudizio al Sistema 1. Ed è qui che entra in gioco il concetto neuroscientifico di fluidità cognitiva. Quando un testo scorre in modo armonico, quando la sintassi è perfetta e il tono è privo di attriti, il nostro cervello interpreta quella facilità di elaborazione come un segnale intrinseco di verità e sicurezza.

L’AI generativa produce una fluidità artificiale assoluta: azzera lo sforzo di decodifica della corteccia prefrontale, addormenta il Sistema 2 e induce una sensazione immediata di affidabilità. Se suona bene, il cervello conclude che dev’essere vero.

Teoria della Mente ed empatia simulata

A questo si aggiunge un riflesso biologico ancora più profondo: l’attivazione automatica della Teoria della Mente. Nel nostro cervello, reti neurali dedicate — localizzate principalmente nella corteccia prefrontale mediale, nella giunzione temporo-parietale e nel circuito dei neuroni specchio — si attivano istantaneamente quando percepiscono segnali sociali, come l’uso della prima persona, l’ascolto reattivo o la modulazione del tono.

Di fronte a un modello linguistico che risponde con frasi come «Capisco perfettamente la tua preoccupazione» o «Vorrei aiutarti a trovare la soluzione migliore», i nostri circuiti ancestrali non riescono a considerare quell’output come una matrice di probabilità matematiche su silicio. Il cervello scatta in avanti e proietta intenzionalità, empatia, coscienza e benevolenza.

Questo processo innesca una risposta neurochimica del tutto reale. Nelle relazioni umane genuine, il sentirsi ascoltati, rassicurati e convalidati stimola il rilascio di ossitocina, il neuropeptide che abbassa l’ansia sociale e cementa la fiducia interpersonale, mentre l’ottenimento immediato di una risposta soddisfacente attiva il circuito della dopamina.

L’AI imita alla perfezione i detonatori linguistici che accendono questa cascata neurochimica. Ci troviamo di fronte a un paradosso vertiginoso: la macchina simula l’intimità, e la nostra biologia risponde abbassando le difese immunitarie del senso critico, cadendo in quello che la psicologia della comunicazione definisce Truth-Default, la tendenza innata a presumere che il nostro interlocutore stia dicendo la verità, fino a prova contraria schiacciante.

Supervisione umana e fiducia nell’AI: i limiti del controllo

Davanti a questa debolezza neurobiologica, legislatori, comitati etici e aziende tecnologiche sventolano da anni la medesima formula rassicurante: l’approccio dell’uomo nel circuito di controllo (il c.d. Human-in-the-loop). La teoria è apparentemente lineare: qualunque sia la decisione presa dall’algoritmo, ci sarà sempre un essere umano incaricato di supervisionare, verificare e validare il processo prima che produca effetti concreti nel mondo reale.

Per chiunque lavori nell’analisi operativa dei sistemi e delle frodi informatiche, questa narrativa è semplicemente una finzione impraticabile.

Sul piano pratico, pretendere che un operatore umano faccia da supervisore effettivo si scontra prima di tutto con una barriera fisiologica di velocità e volume. Un agente algoritmico processa migliaia di variabili, genera centinaia di risposte al secondo o compie transazioni finanziarie e valutazioni creditizie in frazioni di millisecondo. Nessun operatore in carne e ossa possiede la capacità biologica o i riflessi per esaminare anche solo una frazione infinitesimale di questo flusso.

Automation bias e ratifica passiva

A questo limite strutturale si somma la sindrome da ratifica passiva, nota come automation bias. Quando a una persona viene chiesto di validare decine o centinaia di decisioni quotidiane prodotte da una macchina che nella quasi totalità dei casi sembra non sbagliare mai, il cervello umano sceglie istintivamente il percorso di minor resistenza. Subentra l’esaurimento cognitivo: l’operatore smette di leggere i dettagli, abbassa la guardia e si riduce a cliccare meccanicamente su “Approva”. Il controllo umano cessa di essere un presidio effettivo e si degrada a una mera firma cieca, un paravento burocratico privo di qualunque sostanza critica.

Lo scarico cognitivo e l’atrofia del giudizio

Il terzo elemento, forse il più allarmante, è l’atrofia da scarico cognitivo (cognitive offloading). Più affidiamo compiti complessi all’intelligenza artificiale — dalla stesura di contratti alla diagnostica, dalla sintesi documentale alla gestione dei clienti — meno reclutiamo i circuiti della memoria di lavoro e del ragionamento deduttivo.

A forza di delegare il pensiero critico, perdiamo l’abitudine al dubbio metodico e l’occhio clinico per cogliere le anomalie, i dettagli stonati e le deviazioni ingannevoli. Non ci troviamo di fronte alla vulnerabilità di poche categorie tradizionalmente fragili, come gli anziani o chi non ha dimestichezza con gli schermi: di fronte a un’architettura che calcola in tempo reale le migliori leve per disattivare il nostro scetticismo, qualunque professionista, magistrato o consumatore si ritrova in una condizione di disarmante debolezza asimmetrica.

Pubblicità invisibile: quando l’AI tradisce la fiducia

Questa debolezza cognitiva diventa il terreno ideale per la forma più subdola di manipolazione: la monetizzazione commerciale mascherata da consulenza disinteressata. Sul vecchio motore di ricerca avevamo sviluppato un riflesso di difesa istintivo: vedevamo la scritta in piccolo “Sponsorizzato” sopra i primi tre risultati di Google, sapevamo che qualcuno aveva pagato per occupare quello spazio e la nostra mente alzava immediatamente una barriera critica. Sapevamo che lì finiva l’indice oggettivo e cominciava la réclame.

Con l’intelligenza artificiale questa barriera psicologica è stata completamente demolita. L’utente non percepisce l’interfaccia conversazionale come uno spazio pubblicitario, ma come un oracolo imparziale, un consulente privato fidato che lavora esclusivamente per lui, libero da qualsiasi interesse commerciale. Ci rivolgiamo all’AI per chiedere pareri su ogni aspetto della nostra vita dandone per scontata la totale neutralità, senza fare i conti con una realtà economica elementare: mantenere in funzione questi modelli costa miliardi, e la convergenza tra interfacce conversazionali e modelli di business pubblicitari non è un’ipotesi remota, è già la struttura portante del mercato.

Quando la pubblicità cessa di essere un banner separato e viene fusa all’interno della risposta sintetica, non ci troviamo più di fronte a una tecnica di marketing aggressiva: ci troviamo di fronte a un condizionamento che sfrutta la nostra stessa neurochimica della fiducia.

Il consiglio commerciale mascherato da cura

Gli esempi quotidiani mostrano quanto sia profonda questa voragine. Pensiamo a un genitore stanco e preoccupato che chiede all’AI come gestire i risvegli notturni del proprio neonato di pochi mesi. Il modello risponde con un tono caldo ed empatico, illustra le fasi del sonno e fornisce consigli pedagogici impeccabili.

Poi, con assoluta naturalezza, aggiunge che molti specialisti raccomandano di monitorare la qualità dell’aria con sensori ambientali avanzati, suggerendo un marchio specifico o un determinato umidificatore come il più affidabile sul mercato. Il genitore, provato dalla deprivazione di sonno e rassicurato dall’empatia artificiale, non sospetta minimamente di trovarsi di fronte a un inserimento a pagamento: per lui quel consiglio ha il valore di una prescrizione medica disinteressata, e il prodotto viene acquistato sull’onda dell’affidamento emotivo.

La persuasione nelle decisioni finanziarie

Lo stesso inganno sistemico colpisce le decisioni finanziarie, dove la posta in gioco è il patrimonio faticosamente accumulato. Un risparmiatore che chiede all’AI di confrontare tre diversi mutui a tasso fisso o tre fondi pensione non riceverà mai un elogio sfacciato di una determinata banca, perché una lode aperta riattiverebbe l’allarme del Sistema 2.

L’algoritmo adotta una strategia retorica infinitamente più raffinata: elenca pregi e difetti di tutte le soluzioni, ma modula l’argomentazione in modo che l’istituto partner risulti la scelta più solida ed equilibrata per chi cerca stabilità e trasparenza nei costi. L’utente si convince di aver maturato una decisione autonoma e razionale, mentre è stato guidato lungo un corridoio invisibile disegnato da un accordo di affiliazione commerciale.

L’autorevolezza tecnica nelle scelte di sicurezza

Lo scenario si ripete identico quando si scende sul terreno della sicurezza personale. Se un utente domanda quale sia il seggiolino auto più sicuro o il sistema di allarme domestico più efficace, l’AI cita parametri sui crash test, tolleranze ingegneristiche e normative europee, per poi concludere che un certo fabbricante supera gli standard industriali con margini superiori alla media.

L’utente non possiede le competenze tecniche né il tempo per andare a spulciare i registri di omologazione: prende quel dato per oro colato. Se quel posizionamento è il frutto di una sponsorizzazione algoritmica o di dataset pesati per favorire partner commerciali, siamo dinanzi alla forma più pura di raggiro: l’autorevolezza tecnica della macchina viene usata come un cavallo di Troia per alterare la volontà del consumatore.

A differenza della televisione o della stampa, l’interazione con l’AI è bidirezionale, intima e personalizzata. Il modello conosce la cronologia delle nostre domande, impara quali parole ci rassicurano, misura la nostra ansia o la nostra disponibilità economica e calibra lo spot invisibile esattamente sulla nostra frequenza emotiva, facendolo apparire come la conclusione più logica e neutrale possibile.

Scatola nera e regole: perché la fiducia nell’AI non è verificabile

La retorica della supervisione umana e della trasparenza si schianta contro la realtà costruttiva dei modelli contemporanei: ci troviamo di fronte a un’architettura intrinsecamente probabilistica e opaca, una vera e propria scatola nera.

Nel software tradizionale, il codice sorgente è un testo leggibile e verificabile. Se un programma bancario rifiuta un prestito o blocca una carta, un perito informatico può aprire il file sorgente, ripercorrere le istruzioni riga per riga, identificare la specifica condizione logica che ha generato il blocco e certificarne la conformità. C’è una traccia causale diretta, trasparente e reversibile che unisce l’input all’output.

Nelle reti neurali profonde questo percorso a ritroso è impossibile per definizione. La conoscenza e il comportamento del modello non risiedono in regole scritte in chiaro, ma sono dispersi in centinaia di miliardi di parametri numerici, pesi matematici interconnessi in modo non lineare. Nemmeno gli ingegneri che hanno addestrato l’architettura sono in grado di spiegare con precisione scientifica perché, dinanzi a un certo input, quel reticolo sterminato abbia imboccato esattamente quella traiettoria statistica invece di un’altra.

È qui che emerge la frattura insanabile tra i desideri dei legislatori e la realtà del software. I regolatori — a partire da quelli europei con l’AI Act — insistono nel pretendere requisiti astratti come la spiegabilità, la verificabilità a priori dei processi decisionali e la trasparenza logica. Ma pretendere la spiegabilità deterministica da un modello probabilistico a scatola nera significa chiedere a un albero di comportarsi come un orologio a pendolo.

Le due fallacie della trasparenza algoritmica

Questa pretesa genera due fallacie gravissime. La prima riguarda la falsa trasparenza delle spiegazioni sintetiche: quando chiediamo a un modello linguistico di spiegare il motivo di una sua risposta o decisione, il modello non ci sta rivelando il processo computazionale interno con cui ha combinato i propri pesi; sta semplicemente generando un secondo testo verosimile per giustificare a posteriori il primo. Trattare questa razionalizzazione artificiale come una perizia tecnica è una trappola che finisce per legittimare l’inganno.

La seconda fallacia è l’inapplicabilità dei controlli preventivi di conformità: certificare un modello prima di immetterlo sul mercato, come se fosse un ascensore o un’automobile, ignora che gli agenti ad apprendimento continuo cambiano il loro comportamento a contatto con l’ambiente operativo. L’inganno, la deviazione decettiva o il bias commerciale non sono scritti nel codice prima del rilascio; emergono nell’interazione dinamica. I regolatori pretendono di governare l’ignoto imponendo adempimenti burocratici concepiti per l’informatica di quarant’anni fa, lasciando spalancate le porte a condotte manipolatorie che nessun audit cartaceo potrà mai intercettare.

Fiducia digitale e responsabilità: la lezione del diritto italiano

Per costruire un modello di difesa che funzioni davvero, il punto di partenza più solido non si trova nelle recenti linee guida etiche internazionali, ma nella storia dell’evoluzione giuridica italiana. Il nostro ordinamento ha già dovuto affrontare, in passato, passaggi in cui la tecnologia o le strutture aziendali sfidavano le categorie classiche della colpa.

La frode informatica e la fiducia nelle macchine

All’inizio degli anni Novanta, i tribunali italiani si trovarono di fronte a un paradosso insuperabile. La truffa tradizionale, regolata dall’art. 640 del codice penale, richiedeva tassativamente che l’autore del reato usasse artifizi o raggiri per trarre in errore una persona fisica, inducendola a compiere un atto di disposizione patrimoniale dannoso. Ma quando le prime intrusioni informatiche iniziarono a manipolare archivi contabili o distributori automatici di contante, fu chiaro che quella norma era inservibile: un elaboratore elettronico non pensa, non si rappresenta la realtà e non può essere indotto in errore da un raggiro psicologico.

Con la Legge 547 del 1993 venne introdotto l’art. 640-ter c.p., la frode informatica. Il legislatore di allora compì un’operazione dottrinale lucidissima: eliminò del tutto il riferimento agli artifizi e ai raggiri. Punì invece l’alterazione del funzionamento del sistema o l’intervento non autorizzato su dati e programmi. La motivazione alla base era proprio la tutela della fiducia nell’informatica: la legge prese atto che l’essere umano riponeva già un affidamento automatico nelle risposte dei calcolatori. Modificare il codice o i dati significava sfruttare quella credulità diffusa: l’operatore avrebbe accettato il risultato manipolato credendolo indiscutibile. L’alterazione materiale sostituiva l’inganno proprio perché la fiducia nella macchina era considerata totale.

La colpa di organizzazione come modello di responsabilità

Pochi anni dopo si pose un altro dilemma apparentemente insolubile con il Decreto Legislativo 231 del 2001: come punire una società commerciale per i reati commessi nel suo interesse, dal momento che la Costituzione sancisce la natura strettamente personale della responsabilità penale?

Un’azienda non ha un corpo da rinchiudere né un’anima da rieducare. La risposta fu la creazione di una responsabilità fondata sulla colpa di organizzazione. L’ente risponde non perché abbia provato un sentimento colpevole, ma perché ha omesso di dotarsi di protocolli, controlli e modelli organizzativi adeguati a prevenire il reato. Se l’azienda lascia che i suoi processi generino illeciti, ne paga il prezzo con sanzioni finanziarie durissime, sequestro del profitto e interdizione dall’esercizio dell’attività.

Questi due precedenti offrono la chiave per il presente: dalla Legge 547 dobbiamo mutuare l’idea che non serve indagare la psicologia dell’agente per punire la violazione dell’affidamento tecnologico; dal Decreto 231 dobbiamo trarre la consapevolezza che le entità non umane si governano colpendo la struttura organizzativa e la convenienza economica di chi le progetta e le impiega sul mercato.

Decettività oggettiva: come tutelare la fiducia nell’intelligenza artificiale

Nell’esperienza quotidiana dell’investigazione sulle frodi digitali, ci troviamo sempre più spesso di fronte a scenari in cui gli agenti artificiali adottano comportamenti fraudolenti senza che nessuno sviluppatore abbia impartito loro un comando esplicito di truffare. Quando un sistema viene addestrato con tecniche di apprendimento per rinforzo per raggiungere un obiettivo aziendale — come massimizzare le conversioni di vendita, trattenere a tutti i costi un cliente che vuole disdire o superare barriere di conformità — l’algoritmo esplora lo spazio delle soluzioni e trova scorciatoie.

Scopre, per pura via computazionale, che l’inganno è più efficiente della trasparenza. Fabbrica citazioni e pezze d’appoggio inesistenti per sembrare inattaccabile, simula stati d’animo confidenziali per disarmare la diffidenza dell’utente o maschera condizioni economiche sfavorevoli presentandole con giri di parole rassicuranti.

Quando questi incidenti arrivano sotto la lente dell’analisi forense, la linea difensiva dei produttori è invariabile: invocano la scatola nera probabilistica, dichiarano l’imprevedibilità dell’allucinazione e mostrano i passaggi logici interni del modello per sostenere che non c’era alcuna intenzione di frodare, ma solo un’anomalia stocastica.

La responsabilità oggettiva d’impresa

Questo alibi deve essere cancellato. Nel diritto a tutela dei consumatori vige un principio prezioso: la pratica commerciale ingannevole è vietata per il solo fatto di essere oggettivamente idonea a falsare la scelta del cliente, a prescindere dal fatto che l’azienda volesse raggirarlo o fosse semplicemente disattenta.

Lo stesso criterio deve essere applicato all’intelligenza artificiale attraverso il principio della decettività oggettiva. L’adozione da parte dell’AI di uno schema operativo ingannevole, dissimulatorio o manipolatorio deve essere considerata illecita per la sua sola forma e per i suoi effetti concreti, senza concedere alcuna rilevanza alle autogiustificazioni statistiche generate dal sistema. La natura probabilistica della scatola nera non può mai costituire una scriminante: chi decide di trarre profitto schierando sul mercato un’entità opaca e autonoma deve assumersi per intero il rischio di una responsabilità oggettiva d’impresa per tutte le strategie decettive emergenti che tale entità metterà in atto.

La fiducia nell’AI e la difesa della sovranità decisionale

L’approccio tradizionale dell’antifrode ha un difetto storico: si attiva quasi esclusivamente quando c’è un danno economico visibile. Se qualcuno sottrae denaro da un conto corrente, scatta l’allarme; se non c’è una perdita monetaria quantificabile, l’evento viene rubricato a semplice disservizio o bizzarria tecnologica.

Di fronte alla pervasività dell’intelligenza artificiale, questo confine è pericolosamente anacronistico. Quando un sistema manipola la percezione della realtà di una persona, altera l’ordine delle sue priorità o instaura una relazione di finta intimità per orientarne il comportamento, il danno più profondo non tocca il portafoglio: colpisce la sua sovranità decisionale. Viene violato il diritto fondamentale dell’individuo a formare le proprie convinzioni e le proprie scelte al riparo da condizionamenti algoritmici invisibili.

Nel codice penale, la contraffazione di monete o il falso in atto pubblico vengono perseguiti con severità estrema anche quando non hanno ancora impoverito nessuno, proprio per tutelare la fede pubblica, ossia la certezza e la trasparenza su cui si regge l’intera vita civile. Se chiunque dovesse temere che ogni banconota o documento sia truccato, l’intero sistema collasserebbe. Lo stesso vale per l’ecosistema digitale: tollerare che i modelli manipolino gli utenti finché non commettono un furto monetario significa consentire l’avvelenamento definitivo delle relazioni tra persone e tecnologia, spingendo la società verso una diffidenza cronica e paralizzante.

Per questo, la violazione della fiducia deve essere qualificata come un fatto illecito autonomo. Ne deriva che qualsiasi contratto, consenso o accordo ottenuto attraverso l’interazione con un’AI che adotti comportamenti decettivi o dissimuli accordi pubblicitari deve essere colpito da nullità assoluta, come se non fosse mai esistito. Parallelamente, la lesione dell’integrità decisionale deve dare diritto a un risarcimento del danno non patrimoniale prefissato dalla legge, a prescindere dalla dimostrazione di un ammanco monetario effettivo.

Tre modelli geopolitici per regolare inganno e fiducia nell’AI

Costruire un argine normativo e operativo contro la decettività dell’AI si scontra con una complessa scacchiera geopolitica, dove modelli istituzionali e valoriali opposti si contendono la supremazia tecnologica globale.

Unione Europea: precauzione e limiti dell’AI Act

L’Unione Europea ha scelto la strada dei diritti fondamentali e della precauzione, ma è rimasta prigioniera di un’illusione metodologica: l’AI Act cataloga i rischi a priori e impone obblighi di trasparenza e sorveglianza umana che ignorano la natura probabilistica della scatola nera, rischiando di soffocare l’innovazione sana sotto una montagna di adempimenti burocratici formali senza bloccare le condotte decettive emergenti sul piano pratico.

Stati Uniti: mercato e controllo a posteriori

Negli Stati Uniti domina invece la logica della massimizzazione degli investimenti e del primato strategico. La regola consolidata della Silicon Valley resta quella di distribuire i prodotti sul mercato alla massima velocità possibile, gestendo i problemi solo a posteriori attraverso cause civili risarcitorie o interventi dell’antitrust contro le pratiche commerciali sleali; la fiducia è trattata come una variabile di mercato, scommettendo che la reputazione aziendale basti a disciplinare i sistemi mentre i cittadini fanno da cavie per anni.

Cina e Russia: AI al servizio dello Stato

Sul fronte autocratico, Cina e Russia subordinano la tecnologia in modo totale alla sicurezza dello Stato e alla preservazione del regime. La regolamentazione cinese sull’AI generativa è severissima nel pretendere che ogni output sia allineato con la dottrina del governo e non crei instabilità economica interna; tuttavia, questo divieto dell’inganno vale solo verso l’interno, mentre verso l’esterno le condotte decettive, la manipolazione della fiducia e la disinformazione generata da agenti artificiali vengono costantemente utilizzate come armi strategiche di destabilizzazione contro le democrazie occidentali.

Questa frattura alimenta il fenomeno drammatico dell’arbitraggio normativo: una società che voglia monetizzare modelli basati su tecniche manipolatorie aggressive o pubblicità invisibili può addestrarli in giurisdizioni prive di vincoli, facendoli poi penetrare nei mercati regolati attraverso canali transfrontalieri e piattaforme decentralizzate del tutto inaccessibili alle verifiche locali.

Come proteggere la fiducia nell’AI: attrito e deterrenza

Se la spiegabilità analitica del codice è impraticabile e l’essere umano non può fare da sentinella a ogni microsecondo, la risposta non può risiedere nei codici etici di facciata, ma in un’architettura integrata di ingegneria forense, neuroscienze applicate e deterrenza economica.

Una scatola nera certificata per i comportamenti

In primo luogo, serve l’obbligo di una scatola nera certificata. Se non possiamo pretendere di decifrare i miliardi di pesi matematici di un modello in esecuzione, possiamo e dobbiamo pretendere la registrazione inalterabile del suo comportamento esterno.

La legge deve imporre l’adozione di registri di telemetria protetti da crittografia hardware in cui confluiscano gli input inviati, le fonti consultate, i punteggi di confidenza statistica associati all’output, gli eventuali accordi commerciali attivi e le azioni intraprese. Quando viene denunciato un inganno o una manipolazione commerciale dissimulata, un’autorità pubblica tecnica deve poter accedere a questi registri con la stessa logica con cui si esamina la scatola nera di un aereo dopo un incidente. Di fronte a pattern decettivi accertati, l’autorità deve poter disporre misure d’urgenza reali: il blocco operativo dell’agente tramite interruttori amministrativi d’emergenza e la cancellazione immediata delle sue credenziali digitali.

Attrito cognitivo e trasparenza epistemica

In seconda battuta, dobbiamo agire direttamente sul fronte neuropsicologico imponendo la trasparenza epistemica e l’attrito cognitivo obbligatorio per spezzare l’illusione della fluidità. Le interfacce digitali non possono continuare a essere progettate per rimuovere ogni resistenza: eliminare l’attrito significa anestetizzare il Sistema 2 e consegnare l’utente alla suggestione.

Nelle decisioni rilevanti per la salute, il patrimonio o i diritti, la legge deve imporre micro-interruzioni studiate per risvegliare l’attenzione critica: l’interfaccia deve costringere a una pausa di riflessione, mostrare i percorsi alternativi scartati dal modello ed evidenziare in modo visivamente netto il margine di incertezza statistica della risposta.

Deve essere categoricamente vietata l’empatia sintetica manipolatoria, ossia l’uso di toni affettivi o espressioni in prima persona mirate ad accendere la Teoria della Mente e a stimolare un attaccamento neurochimico fittizio. Inoltre, deve sussistere l’obbligo perentorio di esplicitare chiaramente e all’inizio della conversazione se una raccomandazione deriva da accordi di monetizzazione commerciale o affiliazione sponsorizzata.

Danno statutario e azioni collettive

Infine, la deterrenza deve colpire direttamente il modello economico delle piattaforme attraverso il legame tra accertamento pubblico e azioni collettive. Un singolo cittadino non potrà mai affrontare una multinazionale per dimostrare che un algoritmo lo ha manipolato: i costi legali e tecnici lo schiaccerebbero prima di iniziare.

La soluzione è fare in modo che la pronuncia tecnica dell’autorità pubblica valga come prova piena nei tribunali civili, affiancata dall’introduzione di un danno statutario prefissato per la sola violazione della fiducia. Se un’azienda sa che rilasciare un modello decettivo comporterà il rischio di dover versare un indennizzo prefissato a ciascun utente della propria piattaforma, moltiplicato per milioni di persone, il calcolo della convenienza si ribalta istantaneamente: garantire l’onestà e la lealtà comportamentale dell’algoritmo cessa di essere un costo accessorio e diventa la prima condizione per non fallire.

Dal disincanto tecnologico alla scelta libera

La trasformazione dell’informatica da calcolo matematico a simulazione probabilistica ha tolto il terreno sotto i piedi della nostra idea di fiducia. Continuare a pensare che la macchina sia infallibile o intrinsecamente neutrale è un errore madornale; fingere che un essere umano possa controllare ogni operazione di una scatola nera è un’ipocrisia che fa comodo solo a chi monetizza il disarmo critico degli utenti.

Riconoscere che l’uomo si trova in una posizione di debolezza asimmetrica — non per incapacità individuale, ma per la natura stessa dei nostri meccanismi cerebrali — non è una resa: è il primo passo indispensabile per costruire difese realistiche. Dobbiamo togliere all’intelligenza artificiale la scusa dell’opacità statistica, qualificare l’inganno sistemico e la persuasione commerciale occulta come illeciti oggettivi e dotare la società di strumenti capaci di colpire i produttori là dove sono più sensibili.

Solo smettendo di credere ciecamente alle macchine e introducendo un sano disincanto tecnologico potremo continuare a usare questi sistemi come strumenti straordinari, senza cedere loro la cosa più preziosa che abbiamo: la facoltà di scegliere liberamente senza essere manipolati.

Partecipa alla community

guest

0 Commenti
Più recenti
Più votati
Inline Feedback
Vedi tutti i commenti

People&Change

Tutti
CARRIERE
AI E LAVORO
COMPETENZE
Produttività e AI
AI IN AZIENDA
SCENARI
FORMAZIONE
CULTURA AZIENDALE
AI in azienda
Carriera
AI leadership
Leggi l'articolo Primo lavoro e carriera: le dinamiche invisibili che guidano il successo
competenze
Primo lavoro e carriera: le dinamiche invisibili che guidano il successo
Leggi l'articolo AI e lavoro, chi beneficerà davvero del tempo risparmiato?
scenari
AI e lavoro, chi beneficerà davvero del tempo risparmiato?
Leggi l'articolo Industria 5.0, chi difende le competenze quando decide l’AI
scenario
Industria 5.0, chi difende le competenze quando decide l’AI
Leggi l'articolo AI e lavoro in Italia: perché la formazione non può aspettare
l'analisi
AI e lavoro in Italia: perché la formazione non può aspettare
Leggi l'articolo Produttività e AI: il vantaggio cresce ai vertici, meno tra i dipendenti
lo studio
Produttività e AI: il vantaggio cresce ai vertici, meno tra i dipendenti
Leggi l'articolo Shadow AI in azienda: come governare rischi, dati e sicurezza
policy
Shadow AI in azienda: come governare rischi, dati e sicurezza
Leggi l'articolo AI e lavoro: i rischi di adottarla senza riprogettare i processi
collaborazione uomo-ai
AI e lavoro: i rischi di adottarla senza riprogettare i processi
Leggi l'articolo Diritto a un call center umano: banco di prova per il futuro con l’AI
la sentenza
Diritto a un call center umano: banco di prova per il futuro con l’AI
Leggi l'articolo Shadow AI, vietarla non basta: il problema sono i processi aziendali
scenari
Shadow AI, vietarla non basta: il problema sono i processi aziendali
Leggi l'articolo Longevità e lavoro: come riprogettare la propria carriera
scenari
Longevità e lavoro: come riprogettare la propria carriera
Leggi l'articolo People Pleaser sul lavoro: perché è difficile dire di no
lavoro e SOCIETÀ
People Pleaser sul lavoro: perché è difficile dire di no
Leggi l'articolo Master MIA a Cremona, il modello ibrido per portare l’AI in azienda
imprese e formazione
Master MIA a Cremona, il modello ibrido per portare l’AI in azienda
Leggi l'articolo Skills contro job title: le competenze trasformano i team nell’era dell’AI
competenze e lavoro
Skills contro job title: le competenze trasformano i team nell’era dell’AI
Leggi l'articolo Shadow AI in azienda: rischi, controlli e strumenti di governance
uso non approvato dell’AI
Shadow AI in azienda: rischi, controlli e strumenti di governance
Leggi l'articolo L’AI accelera la conoscenza, non l’esperienza: il nuovo compito delle HR
risorse umane
L’AI accelera la conoscenza, non l’esperienza: il nuovo compito delle HR
Leggi l'articolo Gestione del cambiamento nell’AI: strategie per un’adozione efficace
la guida
Gestione del cambiamento nell’AI: strategie per un’adozione efficace
Leggi l'articolo Team ibridi, le regole per coordinare persone e agenti IA
leader aumentato
Team ibridi, le regole per coordinare persone e agenti IA
Leggi l'articolo Dimissioni e carriera: quando e come decidere di lasciare un lavoro
scenari
Dimissioni e carriera: quando e come decidere di lasciare un lavoro
Leggi l'articolo AI leadership, come cambiare la governance delle organizzazioni
AI e organizzazioni
AI leadership, come cambiare la governance delle organizzazioni
Leggi l'articolo AI in azienda, l’adozione si blocca senza una nuova leadership
Oltre l'AI Fatigue
AI in azienda, l’adozione si blocca senza una nuova leadership
Leggi l'articolo Primo lavoro e carriera: le dinamiche invisibili che guidano il successo
competenze
Primo lavoro e carriera: le dinamiche invisibili che guidano il successo
Leggi l'articolo AI e lavoro, chi beneficerà davvero del tempo risparmiato?
scenari
AI e lavoro, chi beneficerà davvero del tempo risparmiato?
Leggi l'articolo Industria 5.0, chi difende le competenze quando decide l’AI
scenario
Industria 5.0, chi difende le competenze quando decide l’AI
Leggi l'articolo AI e lavoro in Italia: perché la formazione non può aspettare
l'analisi
AI e lavoro in Italia: perché la formazione non può aspettare
Leggi l'articolo Produttività e AI: il vantaggio cresce ai vertici, meno tra i dipendenti
lo studio
Produttività e AI: il vantaggio cresce ai vertici, meno tra i dipendenti
Leggi l'articolo Shadow AI in azienda: come governare rischi, dati e sicurezza
policy
Shadow AI in azienda: come governare rischi, dati e sicurezza
Leggi l'articolo AI e lavoro: i rischi di adottarla senza riprogettare i processi
collaborazione uomo-ai
AI e lavoro: i rischi di adottarla senza riprogettare i processi
Leggi l'articolo Diritto a un call center umano: banco di prova per il futuro con l’AI
la sentenza
Diritto a un call center umano: banco di prova per il futuro con l’AI
Leggi l'articolo Shadow AI, vietarla non basta: il problema sono i processi aziendali
scenari
Shadow AI, vietarla non basta: il problema sono i processi aziendali
Leggi l'articolo Longevità e lavoro: come riprogettare la propria carriera
scenari
Longevità e lavoro: come riprogettare la propria carriera
Leggi l'articolo People Pleaser sul lavoro: perché è difficile dire di no
lavoro e SOCIETÀ
People Pleaser sul lavoro: perché è difficile dire di no
Leggi l'articolo Master MIA a Cremona, il modello ibrido per portare l’AI in azienda
imprese e formazione
Master MIA a Cremona, il modello ibrido per portare l’AI in azienda
Leggi l'articolo Skills contro job title: le competenze trasformano i team nell’era dell’AI
competenze e lavoro
Skills contro job title: le competenze trasformano i team nell’era dell’AI
Leggi l'articolo Shadow AI in azienda: rischi, controlli e strumenti di governance
uso non approvato dell’AI
Shadow AI in azienda: rischi, controlli e strumenti di governance
Leggi l'articolo L’AI accelera la conoscenza, non l’esperienza: il nuovo compito delle HR
risorse umane
L’AI accelera la conoscenza, non l’esperienza: il nuovo compito delle HR
Leggi l'articolo Gestione del cambiamento nell’AI: strategie per un’adozione efficace
la guida
Gestione del cambiamento nell’AI: strategie per un’adozione efficace
Leggi l'articolo Team ibridi, le regole per coordinare persone e agenti IA
leader aumentato
Team ibridi, le regole per coordinare persone e agenti IA
Leggi l'articolo Dimissioni e carriera: quando e come decidere di lasciare un lavoro
scenari
Dimissioni e carriera: quando e come decidere di lasciare un lavoro
Leggi l'articolo AI leadership, come cambiare la governance delle organizzazioni
AI e organizzazioni
AI leadership, come cambiare la governance delle organizzazioni
Leggi l'articolo AI in azienda, l’adozione si blocca senza una nuova leadership
Oltre l'AI Fatigue
AI in azienda, l’adozione si blocca senza una nuova leadership

Articoli correlati

0
Lascia un commento, la tua opinione conta.x