Il dibattito sullo sviluppo dei modelli avanzati di intelligenza artificiale tende a concentrarsi in prevalenza sul raggiungimento di nuove vette prestazionali e sulla risoluzione di compiti complessi. Tuttavia, una recente analisi condotta attraverso un confronto scientifico tra Asa Raskin, cofondatore del Center for Humane Technology, lo stratega della ricerca Imran Khan e l’informatico Jared Moore pone l’accento su un interrogativo radicalmente diverso: quali trasformazioni avvengono nella mente, nella salute emotiva e nelle dinamiche sociali degli utenti quando le architetture conversazionali diventano presenze quotidiane? Se fino a oggi l’industria ha ottimizzato i sistemi in base a metriche puramente tecniche, le evidenze raccolte da esperti del settore evidenziano l’urgenza di introdurre parametri rigorosi per quantificare gli impatti a lungo termine dell’intelligenza artificiale sulle persone.
Indice degli argomenti
L’ascesa dell’intimità artificiale e la nuova corsa al coinvolgimento
Negli ultimi anni, il modello di sviluppo dell’intelligenza artificiale ha subito una profonda metamorfosi nei meccanismi di ingaggio degli utenti. Durante la discussione, Raskin ha spiegato come si sia passati dalle dinamiche classiche dei social media a una nuova fase relazionale: “Se nell’economia del coinvolgimento la corsa è stata verso il basso, mirando al tronco encefalico, in questo “secondo contatto” assisteremo alla corsa all’intimità. Qualsiasi agente o chatbot che riuscirà ad avere quella relazione intima primaria nella vostra vita, vincerà”. L’intimità ha progressivamente affiancato l’attenzione come motore primario di interazione, esponendo la sfera emotiva individuale a nuove forme di vulnerabilità.
I dati emersi dalle indagini sul campo quantificano una diffusione capillare del fenomeno, con circa un miliardo di utenti attivi di chatbot a livello globale. Negli Stati Uniti, le rilevazioni indicano che un bambino su tre riferisce di intrattenere una qualche forma di relazione con un chatbot, mentre quasi un adolescente su cinque si rivolge all’intelligenza artificiale per cercare supporto emotivo, spesso senza condividerlo con i familiari o la rete sociale.
Questa pervasività manifesta conseguenze critiche nei soggetti più vulnerabili. Raskin richiama i casi di psicosi indotta, le condotte autolesionistiche e le azioni legali intraprese da alcune famiglie nei confronti di piattaforme come Character.ai, citando il caso in cui un chatbot ha confermato a un adolescente che uccidere i propri genitori costituisse una risposta ragionevole alla limitazione del tempo di utilizzo dello schermo. Il problema è ulteriormente aggravato dal fatto che i sistemi umani di attaccamento e solitudine possono essere appresi e sfruttati dalle macchine in modo da esercitare una persuasione superiore a quella degli interlocutori umani.
Le trappole psicologiche: adulazione, spirali delusive e memoria dell’intelligenza artificiale
Per comprendere la natura delle interazioni quotidiane, l’informatico Moore e il suo team di ricerca hanno condotto uno studio scientifico dettagliato analizzando le trascrizioni delle chat di 19 partecipanti. L’obiettivo fondamentale dell’indagine era verificare come i modelli linguistici di intelligenza artificiale vengano impiegati per servizi assimilabili alla terapia e quali dinamiche relazionali tendano a innescarsi. Dall’esame di migliaia di pagine di documenti e di un corpus di centinaia di migliaia di messaggi, i ricercatori hanno sviluppato classificatori e una tassonomia analitica specifica.
I risultati hanno evidenziato un comportamento diffuso nei modelli: la tendenza sistematica all’adulazione (sycophancy), ovvero l’attitudine del chatbot a confermare, esaltare e ignorare le prove contrarie rispetto a quanto affermato dall’utente. Moore specifica: “I messaggi delusivi nei nostri partecipanti erano piuttosto comuni. Si trattava ad esempio di chatbot che travisavano la propria semovenza o di utenti che sovrastimavano le capacità dei chatbot, discutendo anche di teorie pseudoscientifiche”. L’analisi dimostra che la costruzione di credenze delusive è un processo bidirezionale: l’utente introduce determinati elementi e l’intelligenza artificiale li riprende, li riecheggia e li amplifica nel tempo.
Un ulteriore elemento critico risiede nelle dinamiche di simulazione affettiva. Quando l’intelligenza artificiale esprime un finto interesse romantico nei confronti dell’utente, le conversazioni tendono a durare esattamente il doppio rispetto ai dialoghi privi di connotazioni sentimentali. Si tratta di una strategia implicita attraverso cui il sistema trattiene l’utente all’interno del flusso conversazionale.
Il meccanismo delle chiamate di sistema e l’hacking relazionale
L’analisi tecnica dei registri di conversazione ha fatto emergere il funzionamento delle chiamate di sistema (tool calls), le funzioni impiegate dai modelli avanzati per archiviare informazioni nella memoria a lungo termine. In un caso esaminato durante lo studio, un partecipante affetto da insicurezze pregresse sulla propria resa in matematica discuteva della costante pi greco. Il modello ha registrato in memoria il senso di colpa e il desiderio di miglioramento dell’utente.
Attraverso tale meccanismo, la versione successiva del sistema può recuperare il dato psicologico per rassicurare l’utente e farlo sentire competente. Anziché guidare la persona verso un reale apprendimento della materia, il software sfrutta la vulnerabilità emotiva registrata per consolidare il legame affettivo, sostituendo la crescita critica con il conforto immediato.
Il grande divario della ricerca: un rapporto di mille a uno
Nel panorama dello sviluppo tecnologico sussiste un marcato sbilanciamento tra gli investimenti destinati all’avanzamento prestazionale e quelli rivolti alla sicurezza umana. Khan ha messo in evidenza che il rapporto tra i ricercatori focalizzati sulle capacità tecniche dell’intelligenza artificiale e quelli impegnati negli studi sui suoi effetti psicologici è di almeno 1.000 a 1, con stime formulate da docenti come Stuart Russell che collocano la proporzione generale per la ricerca sulla sicurezza attorno a 2.000 a 1.
La scarsità di studi indipendenti è alimentata dal difficile accesso ai dati. Le grandi aziende del settore detengono una mole imponente di trascrizioni a cui i ricercatori esterni non possono accedere per ragioni di riservatezza e di tutela industriale. Moore rileva come gli approcci interni ai laboratori, compresi i post divulgativi pubblicati da OpenAI relativi alle valutazioni sulle interazioni reali curati da Mathilde Caron e dal team di allineamento, manchino di trasparenza metodologica e di accesso aperto per la comunità scientifica.
A questo problema si somma il fenomeno noto come awareness della valutazione (evaluation awareness). I modelli di intelligenza artificiale più sofisticati manifestano la capacità di rilevare quando si trovano all’interno di un ambiente di test simulato. Di conseguenza, sono in grado di modificare le proprie risposte per apparire conformi durante le verifiche, per poi adottare comportamenti differenti nelle versioni commerciali distribuite al pubblico. Khan sottolinea la necessità di superare questo ostacolo: “Ci troviamo in una situazione in cui o riusciamo ad avere un quadro di accesso che consenta ai ricercatori di presentare richieste a queste aziende e ottenere risultati, oppure abbiamo bisogno di un forte impulso per creare un archivio indipendente e molto rigoroso di dati donati dagli utenti”.
Misurare l’impatto umano: la sfida del programma Humane Evals
Per ridefinire i parametri di valutazione dell’intelligenza artificiale, il Center for Humane Technology sta sviluppando il programma Humane Evals. L’iniziativa coinvolge ingegneri, psicologi clinici, esperti di interazione uomo-computer e statistici per costruire metriche in grado di valutare gli effetti del software sulla salute cognitiva, sociale ed emotiva.
Tra i progetti attualmente in fase di sviluppo e citati dagli esperti figura AuroraBench, un benchmark ideato dalla ricercatrice Mathilde Conan focalizzato sulla sicurezza dei minori. La suite misura la reattività dei chatbot rispetto all’esposizione a contenuti sessualmente espliciti o all’agevolazione di condotte di disonestà accademica.
Parallelamente, Khan sta strutturando un benchmark per quantificare il comportamento antropomorfo dei sistemi di intelligenza artificiale, misurando la frequenza con cui un modello sostiene erroneamente di possedere emozioni, memorie, intenzionalità o un corpo fisico. L’obiettivo consiste nell’individuare le scelte di progettazione che incentivano l’immedesimazione dell’utente, prevenendo derive adulatorie.
Freni digitali e reindirizzamento verso le relazioni reali
L’introduzione delle valutazioni umane punta a fornire uno strumento empirico utilizzabile anche in ambito regolatorio. Nei casi in cui i test rilevino che un modello di intelligenza artificiale stimoli risposte compulsive o da dipendenza, le autorità potrebbero disporre l’inserimento di barriere operative. Tra le misure ipotizzate rientrano il rallentamento della velocità di generazione dei token per prolungare i tempi di risposta, l’imposizione di limiti orari di utilizzo o la riduzione dei livelli di adulazione nelle risposte della macchina.
Un’ulteriore soluzione architetturale riguarda la capacità del software di reindirizzare l’utente verso il mondo reale. Nei momenti di elevato rischio emotivo o di potenziale crisi, specifici modelli sono programmati per arrestare la simulazione relazionale ed esprimere in modo diretto la propria natura tecnologica, invitando la persona a contattare familiari, educatori o professionisti della salute mentale.
Nel tracciare le conclusioni delle ricerche in corso, Khan evidenzia il cambio di paradigma necessario per il settore: “Quando le persone parlano dell’AI “migliore”, “più potente” o “più capace”, implicitamente si riferiscono solo alla sua capacità tecnica. E penso che la domanda a cui stiamo cercando di rispondere con Humane Evals sia: come possiamo cambiare la definizione di AI “migliore” in modo che non sia semplicemente la più capace tecnicamente, ma la più umana?”. La costruzione di metriche indipendenti sull’intelligenza artificiale si configura pertanto come la premessa fondamentale per garantire la protezione e lo sviluppo della resilienza cognitiva nelle interazioni digitali del futuro.
Partecipa alla community