L’intelligenza artificiale è già entrata nelle aule, nelle case e nella vita quotidiana di bambini e adolescenti. La domanda non è più se i più giovani useranno questi strumenti, ma in quali condizioni lo faranno, con quali competenze e tutele e con quale capacità di mantenere autonomia di giudizio.
Indice degli argomenti
Dai contenuti agli ambienti digitali: la nuova sicurezza dei minori
Per molti anni abbiamo affrontato la sicurezza digitale dei minori soprattutto in modo reattivo: individuare un contenuto dannoso, segnalarlo, rimuoverlo e intervenire quando il rischio si era già manifestato. Questa capacità resta indispensabile. Oggi, però, dobbiamo chiederci anche quanto rischio venga prodotto o amplificato dal modo in cui un servizio digitale è progettato, distribuito e governato.
Scrolling infinito, autoplay, notifiche, metriche di approvazione sociale e sistemi di raccomandazione non sono elementi neutrali. Sono scelte progettuali che interagiscono con persone in una fase della vita nella quale autoregolazione, identità, relazioni e pensiero critico sono ancora in formazione. Se il parametro dominante resta il tempo trascorso online, il costo di un modello economico basato sull’attenzione viene trasferito sui più giovani.
IA generativa e minori: perché serve il Safety by Design
Con l’intelligenza artificiale generativa il problema si amplia. Non siamo più soltanto di fronte a piattaforme che selezionano contenuti. I ragazzi interagiscono con sistemi che dialogano, ricordano, consigliano, producono testi e immagini, accompagnano lo studio e possono assumere una funzione percepita di ascolto o relazione. La risposta di un chatbot può apparire personale e competente anche quando è inesatta, inappropriata o inadatta all’età. La disponibilità continua e il linguaggio antropomorfico possono inoltre favorire fiducia e dipendenza emotiva senza che esista una vera responsabilità relazionale.
Per questo il principio di Safety by Design deve diventare Child Rights and Safety by Design. La tutela non può essere una funzione aggiunta a valle di un prodotto sviluppato secondo altre priorità. Deve orientare fin dall’inizio obiettivi, dati, interfacce, modelli di raccomandazione, memoria delle conversazioni, sistemi di moderazione e procedure di risposta alle crisi.
I rischi delle interazioni prolungate con i chatbot
Per un sistema conversazionale destinato o accessibile ai minori non basta verificare la singola risposta a una domanda prestabilita. Occorre testare sequenze prolungate di interazione, tentativi di aggirare le protezioni, differenze tra fasce d’età e situazioni di vulnerabilità. Devono essere valutati anche i rischi di incoraggiamento dell’autolesionismo, sessualizzazione, grooming, manipolazione, isolamento sociale, sostituzione impropria del sostegno psicologico e generazione di immagini abusive o umilianti. Quando emerge un pericolo concreto, il sistema deve ridurre l’escalation, offrire indicazioni comprensibili e facilitare l’accesso a un adulto o a un servizio umano qualificato.
Il caso Meta e la responsabilità delle piattaforme
L’accordo raggiunto negli Stati Uniti tra Meta e una coalizione bipartisan di 52 procuratori generali rappresenta un passaggio significativo. Per gli utenti minorenni di Facebook e Instagram prevede, tra le altre misure, un limite giornaliero predefinito di due ore modificabile solo con il consenso del genitore, il blocco notturno tra mezzanotte e le sei, notifiche silenziate durante l’orario scolastico, maggiori controlli su feed algoritmico e autoplay, tecnologie più forti di age assurance e verifiche indipendenti sull’attuazione dell’accordo.
Il punto più importante è però culturale e regolatorio: la responsabilità si sposta dal singolo contenuto alle caratteristiche del prodotto che possono favorire un uso problematico.
Impostazioni predefinite, raccomandazioni, notifiche e metriche sociali diventano oggetto di responsabilità. L’accordo non costituisce, tuttavia, un modello sufficiente per tutti. Riguarda specifiche piattaforme e giurisdizioni, lascia alcune eccezioni e dovrà essere misurato nei suoi effetti reali. La tutela dei minori non può dipendere soltanto da contenziosi, impegni volontari o soluzioni diverse da impresa a impresa. Servono regole pubbliche comuni, indicatori trasparenti, accesso ai dati per la ricerca indipendente e autorità capaci di verificare non solo l’esistenza delle misure, ma la loro efficacia.
Regole europee per un’intelligenza artificiale sicura per minori
L’Europa dispone già di strumenti importanti. Il GDPR protegge i dati personali; il Digital Services Act impone alle grandi piattaforme di valutare e mitigare i rischi sistemici, compresi quelli per i minori e per il benessere fisico e mentale; l’AI Act introduce una disciplina comune dei sistemi di intelligenza artificiale. La recente designazione di ChatGPT, Reddit e Roblox nell’ambito del DSA conferma che l’attenzione regolatoria deve comprendere anche gli ambienti conversazionali e di gioco frequentati dai più giovani.
La vera prova è ora l’attuazione. Gli obblighi devono tradursi in protezioni differenziate per età, impostazioni predefinite realmente sicure, valutazioni d’impatto sui diritti dell’infanzia prima dell’immissione sul mercato, audit indipendenti, gestione rapida degli incidenti e sanzioni proporzionate. Occorre valutare gli esiti concreti: quanto un sistema espone un adolescente a contenuti dannosi, quanto amplifica una vulnerabilità, quanto facilmente consente di raggiungere aiuto e rimedio.
È questo il senso dell’appello alla Presidente della Commissione europea Ursula von der Leyen, sottoscritto da Telefono Azzurro insieme a oltre 140 organizzazioni ed esperti. La richiesta è che i servizi tecnologici accessibili ai bambini debbano dimostrare, attraverso una valutazione indipendente, di rispettare standard di sicurezza adeguati all’età prima di poter raggiungere il mercato europeo. È un principio semplice: l’onere di provare la sicurezza deve gravare su chi progetta e distribuisce la tecnologia, non sui bambini e sulle famiglie che ne subiscono i rischi.
Age assurance, dati e diritto di chiedere aiuto
Anche la verifica dell’età è un banco di prova. La semplice autodichiarazione produce una protezione largamente teorica. I sistemi di age assurance devono però rispettare minimizzazione dei dati, proporzionalità, sicurezza e possibilità di ricorso. Non dobbiamo scegliere tra bambini non protetti e cittadini permanentemente identificati. Le soglie di età, inoltre, non devono ostacolare l’accesso dei minori a servizi di emergenza, ascolto e segnalazione: la protezione dall’accesso commerciale e il diritto di chiedere aiuto richiedono regole diverse.
Dalla segnalazione alla prevenzione dei rischi online
L’esperienza quotidiana di Telefono Azzurro mostra che l’ambiente digitale e la salute mentale non possono essere trattati come ambiti separati. Attraverso il 114 Emergenza Infanzia, il 19696 e il 116000, e nell’attività di Trusted Flagger ai sensi del DSA, incontriamo situazioni in cui vulnerabilità personali, relazioni, contenuti, dinamiche algoritmiche e comportamenti degli adulti si sommano. Sextortion, grooming, cyberbullismo, autolesionismo, deepfake sessuali e materiali di abuso generati con l’IA richiedono risposte rapide, competenze specialistiche e cooperazione tra piattaforme, servizi, forze dell’ordine e autorità giudiziaria.
I servizi di ascolto e i Trusted Flagger possono svolgere un ruolo importante nell’individuare i rischi emergenti, contribuendo a far emergere schemi che una valutazione puramente tecnica potrebbe non intercettare. Non devono però sostituire la responsabilità delle piattaforme. Le segnalazioni prioritarie devono essere accompagnate da tempi verificabili di intervento, canali di escalation per i casi ad alto rischio, conservazione sicura delle prove, feedback sull’esito e analisi aggregate utili a correggere il design del servizio.
Governance dell’IA e diritti dei bambini
Nei giorni scorsi ho portato questa prospettiva nel confronto sull’intelligenza artificiale e lo sviluppo umano promosso dalle Nazioni Unite a Roma. Il superiore interesse del minore deve entrare nella governance dell’IA come criterio che orienta sviluppo, valutazione e uso della tecnologia. Questo vale per gli standard tecnici, per gli appalti pubblici, per la ricerca e per le politiche educative.
La governance sarà credibile soltanto se ascolterà bambini e adolescenti. La partecipazione non può ridursi a una consultazione simbolica al termine del processo. I ragazzi devono poter spiegare come usano davvero questi strumenti, quali rischi incontrano, quali funzioni ritengono utili e quali forme di controllo vivono come invasive. Il loro contributo deve essere raccolto con metodi sicuri, inclusivi e adeguati all’età, e deve produrre modifiche documentabili nei prodotti e nelle regole.
Intelligenza artificiale a scuola: educare all’uso critico
Il ritorno a scuola rende questa riflessione urgente. L’intelligenza artificiale viene già utilizzata per cercare informazioni, sintetizzare testi, tradurre, scrivere, generare immagini, risolvere problemi e organizzare lo studio. Di fronte a questa realtà, una risposta puramente proibitiva rischia di spostarne l’uso fuori dallo sguardo degli adulti. Una risposta tecno-centrica, che introduce strumenti perché innovativi senza interrogarsi sulle evidenze educative, sulla protezione dei dati e sugli effetti cognitivi, è altrettanto inadeguata.
La scuola deve governare l’innovazione attraverso competenza, diritti e responsabilità educativa. Uno studente deve sapere che un sistema di IA può formulare una risposta molto convincente e tuttavia sbagliata. Deve imparare a verificare le fonti, proteggere dati e immagini, riconoscere contenuti artificiali, dichiarare quando ha usato l’IA e capire quando lo strumento sostiene l’apprendimento e quando sostituisce il suo pensiero.
AI literacy, fonti e autonomia di giudizio
Questa è AI literacy in senso pieno. Non consiste soltanto nel saper formulare una richiesta efficace. Comprende la capacità di riconoscere limiti, interessi economici, bias, incertezza e possibili danni, oltre alla libertà di decidere quando non usare un sistema. Una tecnologia può facilitare un compito senza migliorare l’apprendimento; può produrre una risposta corretta senza che chi la riceve sappia ricostruirne il percorso.
Servono quindi criteri nazionali chiari per la selezione degli strumenti usati nelle scuole, formazione continua dei docenti, informazione accessibile alle famiglie, protezione dei dati, modalità di valutazione coerenti e procedure per gli incidenti. Un chatbot non deve essere presentato come sostituto di un insegnante, di uno psicologo o di una relazione educativa. Nelle situazioni di disagio deve favorire l’incontro con una persona competente, non trattenere il ragazzo nella conversazione.
Scrivere, argomentare, ricordare, confrontare fonti, formulare ipotesi e cambiare idea davanti a un’evidenza restano competenze essenziali. Lo sviluppo di un bambino, inoltre, non avviene soltanto attraverso l’acquisizione di informazioni. Ha bisogno di relazioni, gioco, movimento, sonno, confronto, esperienza e tempo. Nessuna innovazione educativa può essere valutata ignorando questi elementi.
Sette impegni per una protezione verificabile dei minori
Per rendere operativa questa visione occorrono sette impegni comuni:
- valutazioni preventive d’impatto sui diritti e sullo sviluppo dei minori, pubblicate in forma comprensibile e aggiornate quando cambiano modello o funzioni.
- design e impostazioni predefinite differenziati per età, con raccolta minima dei dati e age assurance proporzionata.
- test indipendenti che esaminino conversazioni prolungate, vulnerabilità evolutive, aggiramento delle protezioni e rischi emergenti.
- limiti alle tecniche persuasive e alla profilazione delle vulnerabilità, con opzioni realmente accessibili per feed non personalizzati, autoplay e notifiche.
- protocolli di crisi e passaggio al supporto umano per abuso, autolesionismo, rischio suicidario, grooming e altre emergenze.
- segnalazione, ricorso, rimozione e conservazione delle prove con tempi certi, interoperabilità e responsabilità chiaramente attribuite.
- formazione di docenti e famiglie, ricerca indipendente e partecipazione effettiva di bambini e adolescenti alla valutazione dei servizi.
Cambiare il tempo della protezione digitale
La responsabilità non può essere scaricata sui minori. Non possiamo costruire sistemi estremamente sofisticati nel catturare attenzione e fiducia e poi chiedere a un adolescente di difendersi da solo. Alle imprese spetta incorporare tutela, privacy e conoscenza dell’età evolutiva nei prodotti. Alle istituzioni spetta definire standard e farli rispettare. Alla scuola e alle famiglie devono essere offerte competenze e strumenti concreti. Ai ragazzi deve essere riconosciuto un ruolo attivo, insieme al diritto alla riservatezza e all’autonomia progressiva.
La trasformazione digitale ci obbliga a cambiare il tempo della protezione. Non possiamo aspettare che un rischio diventi un caso, che un danno diventi una statistica o che una tecnologia sia già usata da milioni di ragazzi prima di valutarne gli effetti. Dobbiamo educare, progettare e verificare prima.
Il digitale non è un luogo separato dalla vita di un ragazzo. È uno degli ambienti nei quali cresce, studia, costruisce relazioni e sviluppa la propria identità. Per questo dobbiamo passare dalla sola responsabilità per il singolo contenuto alla responsabilità per la qualità dell’ambiente digitale. Non sono i bambini a doversi adattare a tecnologie pensate senza considerarli. È la tecnologia che deve diventare compatibile con i loro diritti, il loro sviluppo e la loro dignità.
Riferimenti essenziali per la redazione
• Commissione europea, Digital Services Act
• Meta, accordo con i procuratori generali statunitensi
• Dichiarazione congiunta europea sulla sicurezza online dei minori
• United Nations Office for Partnerships, AI and Human Development
Partecipa alla community