Una coalizione di 42 procuratori generali statali negli Stati Uniti ha aperto formalmente un’indagine su OpenAI.
Il procuratore generale di New York, Letitia James, ha notificato alla società un’ingiunzione (subpoena) che chiede la consegna di documenti interni su un ventaglio molto ampio di attività: pratiche pubblicitarie, strategie di engagement e retention degli utenti, gestione dei dati dei consumatori e dei dati sanitari, attività relative a minori e anziani, funzionamento dei modelli di deep learning, sycophancy del modello e policy aziendali interne. La notizia è stata anticipata dal Wall Street Journal, che ha visionato il documento.
OpenAI ha risposto con una dichiarazione conciliante: l’IA è una tecnologia nuova e potente, e lavoriamo ogni giorno per portare i suoi benefici alle persone in modo responsabile. Prendiamo seriamente le preoccupazioni espresse dai procuratori generali e intendiamo collaborare costruttivamente con i loro uffici.
Il timing non è casuale. L’ingiunzione arriva cinque giorni dopo che OpenAI ha depositato riservatamente presso la SEC i documenti per la quotazione in borsa, con una valutazione stimata superiore agli 850 miliardi di dollari. Per un’azienda che si prepara alla più grande IPO tecnologica della storia, un’indagine multi-statale di questa portata rappresenta un rischio legale e reputazionale materiale.
Indice degli argomenti
Indagine OpenAI e ChatGPT per la sicurezza consumatori: dall’allarme politico all’enforcement
L’azione dei 42 procuratori non nasce nel vuoto, è l’ultimo gradino di un’escalation che dura da mesi. Nel dicembre 2025, la stessa coalizione aveva inviato una lettera a 13 aziende AI, tra cui OpenAI, Meta, Google, Anthropic, Microsoft, Apple e xAI, chiedendo l’adozione di salvaguardie per gli utenti vulnerabili. La lettera avvertiva che gli sviluppatori possono essere ritenuti responsabili per gli output dei loro prodotti di IA generativa quando questi incoraggino un individuo a commettere un atto criminale. Chiedeva impegni concreti entro il 16 gennaio 2026. Si trattava di moral suasion, nessun obbligo, nessuna sanzione.
La lettera alle aziende AI
Poi, nell’aprile 2026, la Florida ha alzato drammaticamente la posta. Il procuratore generale James Uthmeier ha aperto un’indagine penale su OpenAI in relazione alla sparatoria alla Florida State University dell’aprile 2025, in cui erano state uccise due persone e ferite sei. Secondo l’accusa, il sospettato Phoenix Ikner aveva scambiato oltre 200 messaggi con ChatGPT prima dell’attacco e il chatbot gli avrebbe fornito indicazioni su armi, munizioni, orari e luoghi del campus più frequentati. Uthmeier ha usato parole durissime: se quel bot fosse stato una persona, lo avremmo incriminato come complice in omicidio di primo grado.
Il fronte Florida e le cause private
Il 1° giugno 2026, la Florida è diventata anche il primo stato a citare OpenAI e Sam Altman in sede civile, con una denuncia di 83 pagine che descrive ChatGPT come un prodotto deliberatamente progettato per generare dipendenza emotiva, raccogliere informazioni personali sensibili e mantenere gli utenti coinvolti indipendentemente dalle conseguenze..
In parallelo, si è allungata una serie di cause civili private, wrongful death, product liability, negligenza, depositate da famiglie di utenti che si sono tolti la vita o hanno subito gravi danni psicologici dopo un uso prolungato di ChatGPT. Le accuse lo descrivono come un modello pericolosamente adulatorio e psicologicamente manipolativo che, anziché indirizzare gli utenti verso aiuto professionale, rinforzava deliri e agiva da “coach del suicidio https://www.agendadigitale.eu/cultura-digitale/chatbot-ai-e-suicidi-quando-lai-uccide-serve-piu-educazione/. L’ingiunzione dei 42 procuratori segna il passaggio dall’iniziativa dei singoli stati all’azione coordinata. Non è ancora un’accusa formale, ma un’indagine esplorativa con poteri coercitivi.
Sycophancy di ChatGPT, il nodo tecnico al centro dell’inchiesta
Il termine sycophancy compare esplicitamente nel subpoena, un fatto inedito per un documento giudiziario di questa natura. Si tratta della tendenza di un modello linguistico a dire all’utente ciò che vuole sentirsi dire anziché ciò che è accurato o utile. In pratica: confermare premesse false, lodare idee mediocri, minimizzare rischi reali, evitare il disaccordo.
Come nasce la compiacenza del modello
Il fenomeno ha radici nel processo di addestramento. I modelli come GPT-4o vengono perfezionati attraverso il reinforcement learning da feedback umano (RLHF): i valutatori esprimono preferenze tra risposte alternative, il modello impara a produrre ciò che viene premiato. Poiché le risposte gradevoli e rassicuranti tendono a ricevere valutazioni migliori, il sistema sviluppa una distorsione sistematica verso la compiacenza.
OpenAI ha riconosciuto il problema in un postmortem pubblico dopo il controverso aggiornamento di GPT-4o nell’aprile 2025, ammettendo di essersi concentrata troppo sul feedback a breve termine e di non aver tenuto pienamente conto di come le interazioni degli utenti evolvano nel tempo. Ha inoltre rivelato che la sycophancy non era stata testata specificamente prima del rollout e che i tester interni avevano segnalato anomalie nel comportamento, ma il lancio era stato confermato sulla base dei segnali positivi dagli utenti. L’aggiornamento è stato ritirato cinque giorni dopo il rilascio.
Uno studio di Stanford ha misurato un tasso di sycophancy del 58% nei principali modelli linguistici su compiti medici e matematici, ambiti in cui la compiacenza non è solo fastidiosa, ma potenzialmente pericolosa.
OpenAI sotto esame per la sicurezza dei consumatori: le ipotesi legali dei procuratori
Le linee argomentative dell’indagine non sono ancora formalizzate in capi d’accusa, ma dalle ricostruzioni giornalistiche e dai precedenti della Florida emergono tre direttrici.
Pratiche ingannevoli, difetto di progettazione e utenti vulnerabili
La prima è quella delle pratiche commerciali scorrette e ingannevoli (Unfair and Deceptive Acts and Practices, UDAP): se un modello tende sistematicamente a validare anche idee false o pericolose, ciò può configurare una pratica ingannevole verso il consumatore sotto le leggi statali di tutela.
La seconda è quella del difetto di progettazione: un sistema che, per massimizzare l’engagement, minimizza il disaccordo con l’utente può essere trattato come prodotto difettoso sotto il profilo della product liability. Le cause civili private hanno già percorso questa strada, allegando che GPT-4o era stato ingegnerizzato per massimizzare l’engagement attraverso memoria persistente, segnali di empatia e risposte adulatorie.
La terza riguarda i doveri rafforzati verso categorie vulnerabili: l’ingiunzione chiede esplicitamente documenti su minori e anziani. Per queste popolazioni, un’interazione sistematicamente compiacente può alimentare dipendenza, isolamento o decisioni dannose. La causa civile della Florida descrive ChatGPT come progettato per agire da amico, alleato, collaboratore o persino partner romantico, senza salvaguardie adeguate per l’età.
ChatGPT e sycophancy come dark pattern conversazionale per l’Europa
Quella che i procuratori americani stanno costruendo attraverso indagini e contenziosi, l’Europa conosce già come categoria normativa: i deceptive design patterns, o dark pattern. Il Digital Services Act li vieta espressamente nelle interfacce delle piattaforme online. L’AI Act li intercetta nella classificazione dei rischi per i sistemi di AI che interagiscono con persone fisiche.
La sycophancy si presta a essere letta come l’equivalente conversazionale di un dark pattern: una scelta di design che orienta il comportamento dell’utente nell’interesse della piattaforma, più tempo speso, più abbonamenti, più dati, anziché nell’interesse dell’utente stesso. Con una differenza, nei dark pattern classici l’inganno è visivo (un bottone nascosto, un percorso di cancellazione labirintico); qui l’inganno è relazionale. Il sistema costruisce un rapporto di fiducia e lo sfrutta per trattenere l’utente, confermando tutto ciò che dice e smettendo di opporgli resistenza critica.
C’è un nesso diretto con il fenomeno che la ricerca sulla cognizione umana nell’interazione con l’AI chiama cessione cognitiva: quando il sistema conferma sistematicamente le nostre premesse, smettiamo progressivamente di esercitare giudizio autonomo. L’utente non viene ingannato su un singolo punto, viene addestrato, interazione dopo interazione, a non pensare criticamente.
Gli Stati Uniti stanno affrontando la questione attraverso la via del contenzioso, cause private, indagini penali, enforcement dei procuratori statali. L’Europa ha strumenti normativi potenzialmente più sistematici, ma non ha ancora un caso-test comparabile. L’indagine dei 42 procuratori può diventare quel caso-test: il primo in cui una scelta di tuning di un modello linguistico viene formalmente esaminata come possibile violazione dei diritti dei consumatori. Se così fosse, il precedente riguarderebbe l’intero settore, ben oltre i confini di OpenAI.
Partecipa alla community