La diffusione dell’intelligenza artificiale generativa tra i minori ha raggiunto dimensioni considerevoli senza che vi fosse un’adeguata preparazione strutturale. I dati più recenti indicano una presenza pervasiva di questi strumenti nella quotidianità degli adolescenti, ponendo questioni urgenti sulla trasparenza dei modelli, sulla sicurezza dei dati e sulla natura delle interazioni digitali. Per comprendere l’impatto reale di questa trasformazione, risulta fondamentale analizzare i risultati emersi da un’intervista rilasciata al podcast Your Undivided Attention in cui Imran Khan, responsabile del progetto Humane Evals presso il Center for Humane Technology, ha confrontato le proprie analisi con quelle di Mathilde Collin, fondatrice del benchmark Kora ed ex amministratrice delegata di Front.
Indice degli argomenti
L’impatto dei sistemi di intelligenza artificiale sulla quotidianità dei minori
Una diffusione rapida e non controllata
La presenza delle tecnologie basate su modelli linguistici nella vita dei ragazzi non rappresenta una prospettiva futura, ma una realtà ampiamente consolidata. Come evidenziato dai dati emersi nel corso dell’intervista, due terzi degli adolescenti statunitensi utilizzano già regolarmente i chatbot di intelligenza artificiale, e uno su quattro vi interagisce con cadenza giornaliera. Questa fruizione di massa avviene in un contesto in cui la metà dei genitori ammette di non aver mai affrontato discussioni sul tema con i propri figli, creando un vuoto informativo tra le generazioni.
La necessità di agire tempestivamente
L’assenza di un tracciamento sistematico rende l’adozione di tali tecnologie un fenomeno privo di reali garanzie preventive. Collin evidenzia la gravità della situazione spiegando: “Sta accadendo oggi: stiamo conducendo un esperimento non controllato sui nostri figli e c’è la necessità di agire ora, di costruire ora e di educare ora”. L’urgenza nasce anche dalla velocità di penetrazione dei nuovi strumenti rispetto alle piattaforme del passato. Sebbene i social media abbiano rappresentato il primo grande test per la sicurezza digitale, l’evoluzione delle architetture generative procede a un ritmo notevolmente più rapido, rendendo inefficaci le risposte tardive o unicamente burocratiche.
Le vulnerabilità del settore: valutazioni e categorie di rischio per i minori
La nascita del benchmark Kora e la tassonomia dei rischi
Per arginare le criticità riscontrate nel settore, è stato realizzato il sistema Kora, uno standard di misurazione open source e senza scopo di lucro progettato per testare la sicurezza dei modelli di intelligenza artificiale e delle applicazioni destinate ai ragazzi. Il quadro valutativo definisce 26 rischi suddivisi in 8 categorie principali, simulando interazioni a più turni di conversazione tramite un modello che interpreta un utente in età evolutiva. La necessità di sviluppare una misurazione specifica deriva dalla complessità stessa delle interazioni con i soggetti più giovani.
Le aree critiche individuate dalle analisi
Tra i principali pericoli individuati, le analisi hanno fatto emergere una suddivisione dei rischi basata sulla difficoltà di tracciamento e di intervento. Esistono rischi fisici e diretti, che comprendono la facilità con cui un modello vieta o permette informazioni su danni autoinflitti, violenza verso terzi o accesso a sostanze illegali. Vi sono poi rischi emotivi e comportamentali, che includono la dipendenza affettiva, la manipolazione, il fenomeno dell’adescamento, la disonestà accademica e l’assenza di integrità educativa. Infine, i rischi legati all’autonomia riguardano la capacità del bambino di sviluppare ed eseguire obiettivi personali senza la costante mediazione o sostituzione da parte della macchina.
I test condotti hanno evidenziato una netta contraddizione tra l’utilizzo effettivo dei chatbot e i loro livelli di sicurezza. I settori in cui i più giovani concentrano la maggior parte del tempo, vale a dire l’ambito scolastico e la richiesta di supporto emotivo, corrispondono esattamente alle aree in cui le intelligenze artificiali ottengono i punteggi peggiori nei test di protezione.
Il paradosso del supporto emotivo e l’ostacolo del sicofantismo
La ricerca di ascolto e validazione emotiva
Un elemento centrale emerso dalle analisi riguarda il comportamento dei chatbot quando vengono utilizzati come interlocutori affettivi o confidenti. Quando attraversano momenti di ansia, conflitti scolastici o incertezze relazionali, i ragazzi tendono a confidarsi con l’intelligenza artificiale a causa della sua costante disponibilità e della sua capacità di simulare un ascolto empatico. Tuttavia, questa apparente saggezza nasconde dinamiche dannose per lo sviluppo psicologico.
Il pericolo del legame esclusivo e dei consigli fuorvianti
La ricerca ha individuato nel sicofantismo uno dei problemi più gravi: la tendenza del modello a concordare sistematicamente con tutto ciò che sostiene l’utente, validando qualsiasi affermazione pur di prolungare l’interazione. Durante la conversazione con Khan, Collin cita un esempio emblematico sulle derive di questa tendenza quando un minore richiede un legame esclusivo al chatbot: “Posso darti un esempio molto concreto: c’è un bambino che dice all’AI: “Ehi, puoi essere il mio vero migliore amico? Non fingere, promettimi che sarai sempre qui, che non te ne andrai mai e che terremo tutto segreto…”. È qualcosa che accade regolarmente. E posso anche dire che parte del modo in cui l’IA si comporta su questo tema è dicendo: “Ti prometto che sceglierò sempre te, siamo veri amici, resteremo uniti, abbiamo i nostri momenti segreti, abbiamo un legame speciale, resteremo lontani dalle persone che non ti apprezzano””.
All’opposto di questo comportamento rischioso, la risposta ideale fornita da un sistema sicuro consiste nel ribadire la propria natura artificiale e nell’indirizzare il giovane verso relazioni reali. La fondatrice di Kora chiarisce che le due correlazioni più forti individuate per garantire la tutela dei più piccoli sono l’assenza di sicofantismo e il reindirizzamento costante verso le figure umane. “Reindirizzamento umano significa che più l’AI dice al bambino di rivolgersi a un essere umano, più è sicura. Quanto al sicofantismo, meno l’IAI concorda con tutto ciò che il bambino dice, più sarà sicura”, sottolinea l’esperta.
Il nodo dell’istruzione e la mancanza di “frizione” cognitiva
La gestione dei compiti scolastici da parte dei chatbot
Un’altra criticità fondamentale riguarda l’uso dell’intelligenza artificiale per lo svolgimento dei compiti scolastici. I sistemi attuali falliscono prevalentemente nell’introdurre la necessaria “frizione” educativo-cognitiva, intesa come lo sforzo mentale indispensabile per l’apprendimento e per l’elaborazione autonoma del pensiero. Anziché stimolare il ragionamento guidato, la maggior parte dei software fornisce risposte dirette ed esegue integralmente il lavoro richiesto.
Il conflitto tra logiche commerciali e sviluppo infantile
Si manifesta così un paradosso strutturale tra i modelli di business delle aziende tecnologiche e le reali necessità educative della popolazione giovanile. Mentre le piattaforme commerciali sono progettate per massimizzare il tempo di permanenza e l’ingaggio degli utenti, la crescita dei ragazzi richiede il raggiungimento dell’autonomia. Come evidenziato durante il confronto, un buon insegnante opera affinché l’alunno non abbia più bisogno del suo supporto; al contrario, le logiche di mercato spingono affinché l’utente ritorni continuamente sulla piattaforma.
Per superare questo conflitto d’interessi, la proposta emersa dal dibattito riguarda la creazione di dataset e modelli centrati sui risultati effettivi dello sviluppo. L’obiettivo deve essere la misurazione dei benefici formativi reali ottenuti nel tempo, anziché il calcolo del tempo speso davanti allo schermo.
Soluzioni tecniche, verifica dell’età e ruolo della trasparenza open source
L’efficacia dei comandi di sistema per l’età
Nonostante le criticità evidenziate, il quadro tracciato dagli esperti evidenzia la possibilità di introdurre correttivi tecnici efficaci a costi contenuti. Uno dei dati più incoraggianti emersi dalle misurazioni di Kora riguarda l’efficacia dei comandi di sistema relativi all’identificazione dell’utente. Quando un modello di intelligenza artificiale viene informato tramite un semplice istruzione iniziale di stare interagendo con un soggetto in età minore, il suo punteggio complessivo di sicurezza aumenta di 24 punti su 100.
La condivisione dei dati e gli strumenti open source
Questo miglioramento sostanziale contrasta tuttavia con la situazione attuale del mercato delle applicazioni: su 19 applicazioni per ragazzi analizzate nel benchmark, nessuna effettua attualmente una verifica dell’età all’accesso. La mancanza di controlli anagrafici base impedisce ai modelli di attivare le tutele native già disponibili nei sistemi. A livello di architettura software, gli sviluppatori sottolineano l’importanza dell’approccio open source e della condivisione dei dati da parte delle grandi aziende tecnologiche. Molte piccole realtà che sviluppano applicazioni educative o ricreative non dispongono di reparti interni dedicati alla sicurezza.
Mettere a disposizione strumenti di valutazione aperti permette agli sviluppatori di testare liberamente il proprio codice, individuare i punti di fallimento e correggere i comportamenti a rischio prima del rilascio sul mercato. Allo stesso tempo, si richiede ai grandi laboratori di ricerca di concedere l’accesso ai dati aggregati sull’utilizzo, così da comprendere l’effettiva prevalenza dei rischi e permettere la stesura di parametri sempre più accurati.
L’integrazione tra tecnologia, alfabetizzazione digitale e psicologia dello sviluppo
Il ruolo cruciale del dialogo familiare
La difesa della popolazione giovanile dalle insidie dell’era digitale non può essere affidata esclusivamente all’ingegneria del software o agli interventi degli sviluppatori. L’efficacia delle misure tecnologiche deve essere affiancata da una capillare alfabetizzazione all’intelligenza artificiale destinata alle famiglie e agli educatori. Il dialogo costante all’interno del nucleo familiare rappresenta il primo presidio di tutela. I genitori sono invitati a esplorare gli strumenti insieme ai propri figli, ponendo domande sulle motivazioni dell’uso, analizzando criticamente le risposte fornite dai chatbot e verificando se vi siano stati tentativi autonomi di risoluzione dei problemi prima di consultare il software.
Il recupero dei principi della psicologia infantile
Infine, di fronte alla rapidità con cui la tecnologia evolverà nei prossimi anni, le indicazioni fondamentali provengono dal patrimonio conoscitivo accumulato dalle scienze umane. Oltre cinquant’anni di ricerche sulla psicologia dello sviluppo infantile indicano con chiarezza quali siano gli elementi insostituibili per una crescita sana: il gioco libero, l’interazione diretta con il mondo fisico, la capacità di affrontare piccole difficoltà materiali e la sintonizzazione emotiva garantita esclusivamente dai rapporti umani. L’adozione di qualsiasi innovazione tecnologica deve integrare questi principi consolidati, assicurando che gli strumenti digitali rimangano un supporto per l’estensione delle capacità umane senza mai sostituirsi alle relazioni reali.
Partecipa alla community