La condanna di Meta e Google per i danni causati dai loro algoritmi ai minori riapre il dibattito sulla responsabilità dei social network: fino a che punto un’azienda tecnologica può essere ritenuta colpevole per effetti sociali che, al momento della progettazione, era impossibile prevedere? La sentenza di Los Angeles offre una risposta giuridicamente discutibile.
Indice degli argomenti
La sentenza che sfida il diritto delle piattaforme digitali
La sentenza è quella della Corte Superiore di Los Angeles nel caso K.G.M. v. Meta and Google dello scorso 25 marzo e ha, dunque, segnato un cambio di direzione interessante nel diritto delle nuove tecnologie.
Per la prima volta, una giuria ha condannato operatori come Meta e Google non per i contenuti ospitati, ma per la struttura stessa dei loro algoritmi, definiti “difettosi” in quanto progettati per indurre una dipendenza patologica nei minorenni. Se però ci si sofferma con attenzione sui contenuti di questa pronuncia, essa dà luogo a diversi dubbi.
Il principio del Safe Harbour e il nuovo bersaglio: il design algoritmico
Per anni l’applicazione, quasi automatica, della Sezione 230 del Digital Communication Act negli Stati Uniti e degli artt. 14 e seguenti della direttiva 2000/31, c.d. direttiva e-commerce, in Europa ha protetto le piattaforme, stabilendo che non fossero responsabili per ciò che gli utenti pubblicano. La sentenza di Los Angeles ha aggirato questo scudo, spostando il focus sulla progettazione dell’algoritmo, con un salto logico forse azzardato.
La Corte di L.A. ha, infatti, stabilito che funzioni come l’infinite scroll, le notifiche push ossessive e gli algoritmi di raccomandazione non siano meri strumenti di visualizzazione, ma componenti di un prodotto “difettoso alla nascita”. La tesi dell’accusa accolta dalla Corte è che tali architetture siano state ingegnerizzate per massimizzare il tempo di permanenza a scapito della salute mentale, causando in molti giovani ansia, depressione e disturbi del comportamento alimentare.
Il paradosso della “Sfera di Cristallo”: punire chi non poteva prevedere
Il punto critico su cui, ad avviso di chi scrive, la dottrina deve interrogarsi è l’oggettiva difficoltà per chi sviluppa prodotti di frontiera di prevedere l’impatto sociale di massa. Anzitutto, è davvero legittimo, col senno di poi, pretendere che l’imprenditore tecnologico sia anche un profeta sociologico? Esiste un’impossibilità ontologica nel prevedere come un’interfaccia grafica interagirà con la neurobiologia di miliardi di persone prima che il prodotto venga effettivamente adottato.
Punire un’azienda perché il suo prodotto ha avuto un successo tale da cambiare i paradigmi comportamentali della società significa, di fatto, punire il successo stesso. Quando Instagram e YouTube muovevano i primi passi, l’idea di una “dipendenza da smartphone” era un concetto scientificamente ancora inesplorato.
Se consideriamo che Facebook è stato lanciato nel 2004, YouTube nel 2005 e Instagram nel 2010 e pensiamo al livello tecnologico di 20 anni fa, pochi avrebbero davvero scommesso sulla riuscita di quei “servizi”, che ancora oggi non sappiamo bene come definire. Tutti social network? Sicuramente Facebook e Instagram sì, ma davvero anche YouTube può essere considerato un social network per come lo intendiamo oggi? Alcune semplici considerazioni tecnologiche evidenziate nei prossimi paragrafi puntano in direzione di una risposta negativa.
Il “rischio di sviluppo” nel diritto europeo: una tutela più equilibrata
In questo scenario, il diritto europeo offre una sponda interpretativa più equilibrata rispetto alla giustizia americana. La direttiva 85/374/CEE, prima, e più di recente la direttiva 2024/2853 sulla responsabilità per danno da prodotti difettosi, entrata in vigore nel dicembre 2024, prevede la clausola del “rischio di sviluppo“. Secondo tale principio, il produttore non è responsabile se lo stato delle conoscenze scientifiche e tecniche al momento in cui ha messo in circolazione il prodotto non permetteva di scoprire l’esistenza del difetto.
Se nel 2010 la comunità scientifica non aveva ancora codificato la correlazione tra scroll infinito e dopamina nei circuiti neurali dei preadolescenti, come poteva un programmatore essere ritenuto colpevole di “negligenza nel design”? Può un giudice sanzionare una società per aver violato nello sviluppo di una tecnologia standard di sicurezza basati su conoscenze che emergeranno solo dieci anni dopo il lancio di quella stessa tecnologia?
Il labirinto tecnico dell’attuazione: algoritmi, black box e architetture incomparabili
Sotto il profilo strettamente tecnologico, l’attuazione della sentenza si presenta come un’impresa di complessa, se non dubbia, praticabilità, tanto per le aziende chiamate a ridisegnare i propri prodotti quanto per i regolatori chiamati a verificarne il rispetto.
Algoritmi come black box: la complessità nascosta
Gli algoritmi di raccomandazione non sono semplici strumenti di visualizzazione, ma reti neurali profonde che spesso operano come “black box“, elaborando miliardi di parametri in tempo reale attraverso infrastrutture distribuite globali e reti di content delivery. Funzioni come l’infinite scroll, le notifiche push e i loop di autoplay non costituiscono optional di interfaccia utente, bensì il nucleo strutturale del prodotto: sono calibrati attraverso cicli continui di sperimentazione A/B e ottimizzazione dell’engagement, direttamente legati al modello di monetizzazione pubblicitaria che premia il tempo di permanenza e la rilevanza contestuale.
Modificarli “per design” per eliminare una presunta dipendenza patologica richiederebbe una significativa riscrittura del codice, con impatti sistemici sulla latenza, sulla stabilità della piattaforma e sull’usabilità stessa per miliardi di utenti, il tutto senza che esistano oggi criteri tecnici oggettivi e universalmente condivisi per distinguere una raccomandazione “virtuosa” da una “eccessiva”.
YouTube non è Facebook: un errore di classificazione architetturale
A questa difficoltà strutturale si aggiunge un errore di classificazione architetturale, particolarmente evidente nel caso di YouTube. A differenza delle piattaforme di Meta, fondate su grafi sociali bidirezionali progettati per mappare relazioni interpersonali e amplificare dinamiche di validazione tra pari, YouTube opera a livello infrastrutturale come un vasto sistema di hosting, transcodifica e distribuzione di contenuti video basato su ricerca semantica e preferenze contestuali individuali.
Il suo algoritmo si fonda su segnali di watch time e discovery scalabile, non su reti di contatti virali. Equipararlo ai feed relazionali di Facebook o Instagram e imporgli i medesimi vincoli di “design non difettoso” ignora queste differenze architettoniche fondamentali, rendendo la compliance tecnica non solo onerosa ma potenzialmente incompatibile con il funzionamento stesso del servizio.
Per i regolatori, infine, il monitoraggio si tradurrebbe in un’analisi di sistemi in continua evoluzione, lasciando un margine di interpretazione vastissimo e soggettivo: non esiste metrica condivisa capace di tradurre in codice la differenza tra un tempo di permanenza dettato dall’interesse genuino e una dipendenza patologica, né strumenti di audit standardizzati in grado di accedere ai pesi dinamici di modelli che mutano di continuo. Si tratta quindi di voler misurare ciò che non si sa ancora come quantificare.
Safety by design: la responsabilità nasce con la consapevolezza, non con il codice
Il rischio è quello di creare un clima di incertezza giuridica che scoraggi i futuri innovatori. Se ogni “effetto collaterale” sociale non previsto può tradursi in risarcimenti multimilionari — come i 6 milioni di dollari assegnati appunto nel caso K.G.M. — chi oserà più creare un settore merceologico completamente nuovo?
Non sarebbe più corretto e coerente introdurre, oggi che i potenziali effetti negativi dei social network sono noti, meccanismi di safety by design e safety by default e di protezione (limiti di tempo, filtri algoritmici, trasparenza)? Non si deve punire un imprenditore per aver inventato un mondo che prima non esisteva, ma per non essere intervenuto quando si è reso conto degli effetti potenzialmente negativi della sua invenzione.
La responsabilità deve sorgere dal momento in cui l’evidenza scientifica del danno diventa chiara, non retroattivamente dal giorno del primo codice scritto.
Nobel e gli algoritmi: il parallelo illuminante tra dinamite e social media
Sia consentito proporre un paragone con Alfred Nobel che permette di elevare la discussione dal piano tecnico-giuridico a quello etico-storico. Se analizziamo la vicenda dei social media attraverso la lente della dinamite, emergono parallelismi illuminanti sulla natura stessa dell’innovazione.
Quando Alfred Nobel stabilizzò la nitroglicerina creando la dinamite, il suo intento era prettamente ingegneristico e umanitario: voleva rendere sicuri i lavori nelle miniere e la costruzione di ferrovie, evitando le stragi causate dalle esplosioni accidentali di nitroglicerina liquida. Nobel non ha inventato la “distruzione”; ha inventato un metodo più efficiente per manipolare l’energia. La dinamite ha scavato il tunnel del San Gottardo, ma ha anche dilaniato corpi sui campi di battaglia. Allo stesso modo, i creatori di YouTube e Instagram hanno sviluppato algoritmi per “stabilizzare” l’immenso caos di informazioni del web, offrendo a ogni utente esattamente ciò che cercava. L’intento originale era l’efficienza della connessione e la rilevanza dei contenuti.
Gli algoritmi di engagement erano nati per mostrare video interessanti; con i social network si sono trasformati in “armi di distrazione di massa” che sfruttano le vulnerabilità neurobiologiche dei minori. Il problema sorge evidentemente quando l’invenzione sfugge di mano al suo creatore a causa dell’uso (o dell’abuso) che ne fa la società. Nobel poteva essere condannato nel 1867 per l’utilizzo che sarebbe stato fatto successivamente della sua invenzione in guerra? La risposta giuridica è no, per quanto eticamente sia stato in conseguenza etichettato come “mercante di morte” (e per tale motivo abbia successivamente istituito il famoso Premio Nobel). Egli non poteva prevedere l’evoluzione della strategia militare globale, così come gli ingegneri della Silicon Valley del 2010 non potevano avere la certezza scientifica di come il “like” avrebbe influenzato i circuiti della dopamina di un’intera generazione.
La vera sfida: normare il presente, non sanzionare il passato
Punire Google e Meta oggi per non aver previsto la dipendenza quindici anni fa è come voler processare Nobel per la polvere da sparo senza fumo. La vera sfida giuridica non è il risarcimento del passato, ma la normazione del presente. La sfida per il legislatore di domani sarà definire un perimetro di responsabilità che non trasformi l’innovatore in un capro espiatorio per le fragilità della società odierna. La tecnologia corre, il diritto cammina: pretendere che la legge punisca chi ha corso troppo veloce in un territorio inesplorato è un errore che potremmo pagare in termini di progresso e competitività. L’algoritmo perfetto non esiste, ma un quadro normativo che distingua tra dolo nel design e imprevedibilità del successo è l’unica via per una società digitale davvero sicura e innovativa.
