La crescente diffusione dell’intelligenza artificiale e delle norme che la riguardano impongono a chi decide di sviluppare soluzioni di AI (sistemi o modelli di AI) di soffermarsi sull’intera fase del ciclo di vita della soluzione al fine di svolgere le valutazioni rilevanti, anche ai fini della protezione dei dati personali. Le valutazioni normative non possono coincidere solo con la fase di utilizzo della soluzione da parte dell’utente finale, ma si devono collocare già nella fase di sviluppo della soluzione di intelligenza artificiale.
In tale fase, assumono rilievo le scelte relative alla selezione, alla raccolta e all’elaborazione dei dataset che possono includere contenuti di diversa natura quali, testi estratti dal web, immagini, documenti o altri dati, che, in molti casi, possono contenere informazioni riferibili a persone fisiche identificate o identificabili e quindi classificabili come dati personali.
Indice degli argomenti
Sviluppo delle soluzioni AI e protezione dei dati personali
Ne consegue che, qualora i dati impiegati nello sviluppo e nell’addestramento della soluzione siano riconducibili a persone fisiche identificate o identificabili, il relativo trattamento è soggetto alla disciplina del Regolamento (UE) 2016/679 (GDPR), con conseguente applicazione dei principi, delle basi giuridiche e degli obblighi di accountability previsti dalla normativa data protection.
La conformità alla normativa in materia di protezione dei dati personali deve essere integrata sin dalle fasi iniziali della progettazione della soluzione in quanto eventuali non conformità nella fase di sviluppo della soluzione possono propagarsi alle successive fasi di utilizzo e/o diffusione della soluzione di AI.
Governance dei dati tra GDPR e AI Act
Le fasi di sviluppo e addestramento delle soluzioni di AI rendono centrale il tema della governance dei dati soprattutto nei casi in cui i dati utilizzati abbiano natura personale. In questo contesto, è importante prendere in considerazione sia la normativa sulla protezione dei dati personali, sia il Regolamento (UE) 2024/1689 (AI Act). In primo luogo, il GDPR impone ai titolati del trattamento l’individuazione di una corretta base giuridica affinché il trattamento possa essere considerato lecito. In particolare, l’art. 6 GDPR richiede che ogni trattamento di dati personali sia fondato su un’idonea condizione di liceità, da individuare in relazione alla specifica finalità perseguita. Nel contesto dello sviluppo e dell’addestramento delle soluzioni AI, tale valutazione assume particolare complessità, soprattutto quando il trattamento riguarda dataset di grandi dimensioni o dati provenienti da una pluralità indeterminata di fonti.
Oltre al GDPR è necessario tenere in considerazione anche l’AI Act che introduce una disciplina specifica per i sistemi di intelligenza artificiale, secondo un approccio fondato sul rischio. Il rapporto tra AI Act e GDPR deve essere letto in termini di complementarità in quanto l’AI Act disciplina il software, mentre il GDPR continua a trovare applicazione ogniqualvolta lo sviluppo, l’addestramento, l’utilizzo o diffusione della soluzione AI comporti il trattamento di dati personali. In particolare, l’art. 10 dell’AI Act, relativo ai sistemi ad alto rischio, attribuisce rilievo alla governance dei dati, alla qualità dei dataset di addestramento, validazione e test, nonché alla prevenzione di errori, distorsioni e bias. In questa prospettiva, la corretta gestione dei dati non rappresenta soltanto un adempimento regolatorio, ma incide direttamente sull’affidabilità tecnica della soluzione di AI e sulla sua capacità di produrre risultati coerenti, proporzionati e non discriminatori.
Digital Omnibus e quadro europeo dell’AI
In questo scenario si inserisce anche il pacchetto normativo del c.d. Digital Omnibus, volto a razionalizzare e semplificare alcune regole del quadro digitale europeo. Con riferimento all’AI Act, tra gli interventi più rilevanti rientrano il rinvio dell’applicazione di alcuni obblighi, l’introduzione di alcune misure di semplificazione e alcuni chiarimenti, tra cui quello relativo alla nozione di componente di sicurezza. Il pacchetto interviene inoltre su specifici profili sostanziali, prevedendo nuovi divieti relativi ai sistemi di AI che generano materiale di abuso sessuale su minori o creano immagini, video e audio che raffigurano le parti intime di una persona identificabile o attività sessualmente esplicite senza il suo consenso.
Tali interventi non attenuano la centralità della protezione dei dati personali nello sviluppo dei sistemi di intelligenza artificiale. Al contrario, confermano l’esigenza di adottare un approccio anticipato, documentato e trasversale alla governance dei dati, soprattutto nei progetti che coinvolgono dataset complessi, sistemi ad alto rischio o trattamenti finalizzati allo sviluppo, all’addestramento e alla correzione dei bias. La semplificazione normativa, infatti, non dovrebbe essere letta come riduzione delle garanzie sostanziali, ma come tentativo di rendere più chiaro, coordinato e sostenibile il quadro degli obblighi applicabili.
Dati personali nei modelli AI e legittimo interesse
Il coordinamento tra GDPR e AI Act rende quindi necessario tradurre i principi generali di liceità, trasparenza, minimizzazione e accountability in criteri applicabili anche alla fase di sviluppo e addestramento dei modelli.
In questo scenario e con riferimento alle condizioni di liceità, in ambito privato, assume rilievo il ricorso al legittimo interesse di cui all’art. 6, par. 1, lett. f), GDPR, a condizione che sia svolta una valutazione puntuale e documentata. Tale valutazione deve verificare l’effettività dell’interesse perseguito, la necessità del trattamento rispetto alla finalità dichiarata e il corretto bilanciamento con i diritti e le libertà degli interessati, tenendo conto anche del contesto in cui i dati sono stati originariamente raccolti e delle ragionevoli aspettative degli interessati.
Le indicazioni dell’EDPB sui modelli di intelligenza artificiale
Sul punto l’European Data Protection Board (EDPB) ha fornito indicazioni rilevanti sui principali profili data protection connessi all’impiego di dati personali nel contesto dei modelli di intelligenza artificiale attraverso l’Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models1.
Il parere affronta, in particolare, tre profili centrali quali: la possibilità di considerare anonimo un modello di AI addestrato mediante dati personali; l’utilizzabilità del legittimo interesse come base giuridica nelle fasi di sviluppo e diffusione del modello; e le conseguenze che un eventuale trattamento illecito nella fase di sviluppo può produrre sul successivo utilizzo del modello.
Con riferimento al primo profilo, l’EDPB chiarisce che un modello di AI addestrato su dati personali non può essere considerato automaticamente anonimo. Tale valutazione deve essere svolta caso per caso, verificando la probabilità di estrarre dal modello, o di ottenere attraverso le sue interazioni, dati personali relativi agli interessati i cui dati sono stati utilizzati nella fase di sviluppo possa essere considerata non significativa, tenendo conto di tutti i mezzi ragionevolmente utilizzabili.
Quanto alla base giuridica, il parere richiama le tre fasi da seguite per l’esecuzione del test di bilanciamento per il ricorso alla base giuridica del legittimo interesse, prevedendo: l’identificazione di un interesse lecito, specifico e attuale; la verifica della necessità del trattamento rispetto a tale interesse e il bilanciamento con i diritti e le libertà degli interessati. In tale valutazione assumono rilievo la natura dei dati trattati, il contesto della raccolta, le possibili conseguenze del trattamento, le ragionevoli aspettative degli interessati e l’adozione di eventuali misure di mitigazione.
In tale prospettiva, può distinguersi l’ipotesi in cui i dati siano raccolti specificamente per finalità di sviluppo o addestramento del modello e quella in cui vengano invece riutilizzati dataset già disponibili, raccolti originariamente per finalità diverse. Nel primo caso, il titolare deve impostare sin dall’origine il trattamento nel rispetto dei principi di trasparenza, minimizzazione e limitazione della finalità; nel secondo, occorre verificare se il nuovo utilizzo sia compatibile con la finalità originaria e se siano state adottate garanzie adeguate per gli interessati eseguendo un test di compatibilità ai sensi dell’articolo 6, paragrafo 4 del GDPR.
Il parere si sofferma anche sull’utilizzo di dati di terza parte e alle pratiche di web scraping. La circostanza che i dati siano pubblicamente accessibili online non esclude, di per sé, la loro natura personale né rende automaticamente lecito il loro impiego per lo sviluppo o l’addestramento di un modello. Il titolare deve quindi valutare la sussistenza di un’idonea base giuridica, la proporzionalità del trattamento e le misure necessarie a ridurre l’impatto sugli interessati, anche attraverso limitazioni nella raccolta, esclusione di determinate fonti o categorie di dati e strumenti che agevolino l’esercizio dei diritti.
Categorie particolari di dati e correzione dei bias nell’AI Act
Oltre alle considerazioni svolte dall’EDPB, un profilo di ulteriore rilevanza riguarda il trattamento di categorie particolari di dati ai sensi dell’articolo 9 del GDPR. Sul punto si evidenzia che il Digital Omnibus introduce l’art. 4-bis nell’AI ACT indicando che nella misura strettamente necessaria a garantire il rilevamento e la correzione delle distorsioni in relazione ai sistemi di AI ad alto rischio in conformità dell’articolo 10 dell’AI ACT, paragrafo 2, lettere f) (lo svolgimento di un esame atto a valutare le possibili distorsioni suscettibili di incidere sulla salute e sulla sicurezza delle persone, di avere un impatto negativo sui diritti fondamentali o di comportare discriminazioni vietate dal diritto dell’Unione, specie laddove gli output di dati influenzano gli input per operazioni future) e lett. g) (l’adozione di misure adeguate per individuare, prevenire e attenuare le possibili distorsioni individuate), i fornitori di tali sistemi ad alto rischio possono eccezionalmente trattare categorie particolari di dati personali, fatte salve le tutele adeguate per i diritti e le libertà fondamentali delle persone fisiche.
Oltre al rispetto della normativa data protection, a seconda dei casi, devono essere soddisfatte tutte le condizioni seguenti: a) il rilevamento e la correzione delle distorsioni non possono essere realizzati efficacemente mediante il trattamento di altri dati, compresi i dati sintetici o anonimizzati; b) le categorie particolari di dati personali sono soggette a limitazioni tecniche relative al riutilizzo dei dati personali, nonché a misure più avanzate di sicurezza e di tutela della vita privata, compresa la pseudonimizzazione; c) le categorie particolari di dati personali sono soggette a misure tese a garantire che i dati personali trattati siano resi sicuri e protetti nonché soggetti a garanzie adeguate, ivi compresi controlli e documentazione rigorosi dell’accesso, al fine di evitare abusi e garantire che solo le persone autorizzate e sottostanti a opportuni obblighi di riservatezza abbiano accesso a tali dati personali; d) le categorie particolari di dati personali non sono trasmesse, trasferite o altrimenti consultate da terzi; e) le categorie particolari di dati personali vengono cancellate dopo che la distorsione è stata corretta oppure i dati personali hanno raggiunto la fine del loro periodo di conservazione, a seconda di quale delle due condizioni si verifica per prima; e f) i registri delle attività di comprendono i motivi per cui il trattamento delle categorie particolari di dati personali era strettamente necessario per rilevare e correggere distorsioni e i motivi per cui tale obiettivo non poteva essere raggiunto mediante il trattamento di altri dati.
Inoltre, i fornitori e i deployer di altri sistemi e modelli di AI e i deployer di sistemi di AI ad alto rischio possono eccezionalmente trattare categorie particolari di dati personali nella misura in cui tale trattamento è strettamente necessario per garantire il rilevamento e la correzione di possibili distorsioni suscettibili di incidere sulla salute e sulla sicurezza delle persone, di avere un impatto negativo sui diritti fondamentali o di comportare discriminazioni vietate dal diritto dell’Unione, specie laddove gli output di dati influenzano gli input per operazioni future; e sono applicate tutte le condizioni e le garanzie precedentemente elencate.
L’articolo in commento precisa che tale novella non crea alcun obbligo di rilevare e correggere tali distorsioni.
Conclusioni
L’evoluzione delle soluzioni di intelligenza artificiale conferma la necessità di considerare la protezione dei dati personali non come una verifica formale da svolgere a valle, ma come un elemento essenziale della progettazione e dello sviluppo del sistema. La qualità, la provenienza e la liceità dei dati utilizzati incidono infatti non solo sulla conformità della soluzione di AI al quadro normativo applicabile, ma anche sulla sua affidabilità e sulla capacità di produrre risultati corretti, proporzionati e non discriminatori.
Il GDPR, l’AI Act e le più recenti iniziative di razionalizzazione del quadro digitale europeo e le indicazioni dell’EDPB convergono verso un principio comune secondo cui i dati utilizzati per sviluppare e addestrare soluzioni di AI devono essere oggetto di una governance trasparente, proporzionata e documentata. La mera disponibilità tecnica di grandi quantità di dati non è sufficiente a legittimarne l’utilizzo, soprattutto quando tali dati siano riferibili, anche indirettamente, a persone fisiche identificate o identificabili.
In questa prospettiva, la protezione dei dati personali non rappresenta un ostacolo all’innovazione, ma una condizione per sviluppare soluzioni di intelligenza artificiale giuridicamente sostenibili, affidabili e coerenti con il quadro europeo di tutela dei diritti fondamentali. L’adeguamento all’AI Act e al GDPR non può quindi essere letto come un adempimento meramente formale, ma come parte integrante di un modello di governance volto a coniugare innovazione tecnologica, responsabilità degli operatori e tutela effettiva delle persone interessate.
https://www.edpb.europa.eu/documents/opinion-of-the-board-art-64/opinion-282024-on-certain-data-protection-aspects-related-to_it↩︎
Partecipa alla community