IA e neuroscienze, la nostra "privacy mentale" è a rischio? I paletti che servono - Agenda Digitale

libertà di coscienza

IA e neuroscienze, la nostra “privacy mentale” è a rischio? I paletti che servono

La manipolazione mentale è un aspetto meno evidente dell’intelligenza artificiale, ma molto rilevante. Tecniche in grado di incidere sull’autodeterminazione sono già in uso, ma la vera svolta si avrà nelle neuroscienze. Ecco perché servono anche norme a tutela dell’integrità mentale

17 Giu 2021
Federica Resta

Dirigente presso il Garante privacy*

C’è un aspetto dell’intelligenza artificiale forse meno evidente; eppure, così determinante: la manipolazione mentale (nudging negativo), l’influenza sulla dinamica cognitiva e finanche coscienziale, l’attitudine performativa della tecnica di cui oggi la proposta di Regolamento Ue prende atto, vietando appunto le applicazioni di IA con effetti subliminali o comunque incidenti sulla coscienza individuale.

Intelligenza artificiale e Giustizia, opportunità e rischi: i limiti che servono

E benché, come vedremo, la vera svolta si avrà progressivamente sul terreno delle neuroscienze, già oggi l’IA propone tecniche a scopo essenzialmente commerciale, idonee a incidere sensibilmente sull’autodeterminazione e tecniche psicometriche utilizzate per il microtargeting, il neuromarketing e in genere la tendenza a segmentare l’offerta sulla base del profilo di consumatore stilato dall’algoritmo, in virtù del comportamento tenuto on line in precedenza, sono esempi di incidenza forte sul processo motivazionale e finanche cognitivo del soggetto.

Benvenuti nella società dell’anticipazione

L’atto del presentare contenuti simili a quelli già ricercati impedisce infatti l’apertura ad altro, cristallizza le scelte future su quelle passate, limita l’ambito cognitivo (paradossale per una risorsa, come il web, potenzialmente invece olistica). Già sul piano commerciale questo è significativo (si pensi al caso della madre che aveva perso il figlio prima del parto) perché diveniamo talmente prevedibili che si è potuti giungere addirittura all’anticipatory shipping, che non vuol dire solo creare artificialmente il bisogno ma vuol dire conformismo, normalizzazione, assenza di sviluppo.

WHITEPAPER
Gestione dei contratti e GDPR: guida all’esternalizzazione di attività dei dati personali
Legal
Privacy

Tra le tante definizioni della nostra società, in questo senso, quello di società dell’anticipazione, fondata dunque sulla predittività di tutto, anche delle scelte umane, è forse la più efficace. In ogni caso, questa forma di pubblicità può dirsi legittima solo nella misura in cui non determini quella incidenza sul processo motivazionale individuale, tale da superare persino la soglia prevista dalla direttiva sulle pratiche commerciali scorrette, realizzando dunque quella distorsione (per limitazione) della libertà di scelta del consumatore che la direttiva mira appunto a impedire, anche se prescindendo in questo caso dalle vulnerabilità individuali previste appunto dalla norma.

Profilazione politico-elettorale e garanzie democratiche

Ma il caso Cambridge Analytica ci ha dimostrato che la tendenza alla profilazione può ben scivolare dal piano commerciale a quello politico-elettorale, con effetti devastanti sulle garanzie democratiche e in particolare sulla corretta e libera formazione del consenso elettorale e sul pluralismo.

Se infatti la realtà che ci viene proposta dal nostro principale canale informativo (la rete) è sapientemente modulata e “ritagliata” sulla base del tipo di elettore che l’algoritmo dice noi siamo, è velleitario pensare di poter assicurare una corretta formazione del consenso elettorale e una libera coscienza politica.

Neurotecnologie: liberta di coscienza a rischio?

E tuttavia, il vero salto di qualità si avrà con il progresso delle neurotecnologie. Già oggi tecniche di brain-imaging quali l’elettroencefalografia o la risonanza magnetica funzionale possono fornire informazioni importanti, a fini diagnostici, sulla dinamica dei processi neurali, rendendoli in certa misura leggibili, mentre la stimolazione cerebrale elettrica o magnetica rappresenta un valido ausilio terapeutico per diverse patologie.

Ma la nuova frontiera cui tende la ricerca è quella della connessione diretta tra la sfera cognitiva e il software, tale da decodificare il pensiero, “scaricarlo” in forma leggibile, cancellare selettivamente i ricordi. Ogniqualvolta, insomma, dal dato neurale si giunga al dato mentale, coscienziale, si rischia di toccare quella sfera, appunto di libertà di coscienza, sinora ritenuta intangibile, qualificata dalla Consulta come presupposto di ogni altra libertà, spazio di decisione autonoma e inaccessibile (467/91). Per un verso, infatti, il potenziamento cognitivo esige un limite, anzitutto etico, a una possibile nuova “normalizzazione” antropologica (il superuomo di massa?) per impedire discriminazioni nei confronti di quanti potenziati non siano. Per altro verso, la decodificabilità del pensiero non rischia di realizzare la distopia totalitaria dell’uomo di vetro, che nulla può nascondere, vanificando prerogative democratiche essenziali (la segretezza e libertà del voto e delle comunicazioni, ad esempio o lo ius tacendi dell’imputato)?

Di fronte a innovazioni quasi “asimoviane”, prende corpo quell’ambivalenza che già il pensiero greco attribuiva alla “mechané”: tanto strumento al servizio dell’uomo quanto inganno. E se è certamente da promuoverne l’uso terapeutico, protesico, bisogna interrogarsi sul loro uso potenziativo, mimetico, per stabilire fino a che punto ciò sia ammissibile senza il rischio di discriminare chi potenziato non sia e non voglia essere e senza intaccare quel nucleo essenziale della dignità sotteso, in particolare, allo statuto bioetico sancito dalla Carta dei diritti fondamentali dell’Unione europea (CDFUE). Va poi adeguatamente contrastato il rischio di usi secondari dei dati raccolti tramite impianti neurali: se acquisiti nell’ambito di usi per fini terapeutici essi non devono essere utilizzati in altri contesti. Come pure va garantita la massima riservatezza e il divieto di usi secondari dei dati acquisiti tramite applicazioni come il mindwriting di cui si è letto recentemente, capaci di tradurre il pensiero in scrittura. Ogniqualvolta, cioè, si acceda al contenuto del pensiero, disvelandolo, deve garantirsi lo si faccia, se necessario, per fini terapeutici e ogni altro uso, sempre che lo si ritenga ammissibile, dev’essere regolamentato sulla base del principio di precauzione. Inoltre, il soggetto deve avere la massima signoria, un’autodeterminazione piena sui propri dati così acquisiti e sulla loro eventuale circolazione.

L’urgenza di uno statuto giuridico a tutela dell’integrità mentale

Di fronte a queste implicazioni, emerge l’urgenza di uno statuto giuridico a tutela dell’integrità mentale, della privacy mentale se così vogliamo chiamarla (o dell’habeas mentem, come suggerisce il Presidente Stanzione) come diritto di autodeterminazione in senso stretto.

Già oggi Gdpr e direttiva 680/2016 contengono uno statuto giuridico essenziale tale da garantire le coordinate essenziali del fenomeno. Significativi, in tal senso, i diritti (alla spiegazione, all’intervento umano, all’uso non discriminatorio) sanciti rispetto ai processi decisionali automatizzati: norme che ben potrebbero rappresentare un baluardo almeno rispetto alle applicazioni neurotecnologiche più “interventiste” e sempre che siano fondate su algoritmi rule-based e non black-box (anche valorizzando il recente arresto della Cassazione), che non dovrebbero ammettersi in quest’ambito.

L’art. 22 in tal senso può ben applicarsi a pratiche manipolative tali da integrare certamente gli estremi degli effetti analogamente significativi previsti dalla norma. La manipolazione mentale (anche di soggetti non vulnerabili) è certamente uno di quei rischi per i diritti e le libertà che tutto il sistema del Gpdr prende in considerazione per modulare diversamente gli obblighi e le garanzie.

Lo stop Ue al ricorso a sistemi che sviluppino tecniche subliminali

Il draft di regolamento europeo sull’IA mette a sistema questi principi e li inserisce all’interno di una cornice più ampia, comprensiva di divieti relativi alle tecniche di IA incompatibili con il sistema assiologico europeo. Tra questi vi è anche il divieto del ricorso a sistemi che sviluppino tecniche subliminali idonee a condizionare il comportamento altrui (oltre che sfruttino le vulnerabilità di gruppi sociali, nonché a sistemi di social scoring fondati sul monitoraggio delle condotte individuali.). Si coglie, insomma, l’effettivo pericolo delle neurotecnologie, che tuttavia deve poter essere concretamente identificato nelle caratteristiche dell’applicazione utilizzata, il che non è sempre agevole. È dunque importante avere piena cognizione del funzionamento di questo tipo di tecnologie, per apprezzarne l’idoneità a incidere sul substrato della coscienza, altrimenti anche questo divieto rischia di risolversi in una mera petizione di principio.

Le tecniche di tutela devono, insomma, essere ispirate a principi:

  • di precauzione (e in questa logica il divieto del draft di regolamento europeo sull’IA, rispetto a tecniche con effetti subliminali è corretto),
  • responsabilizzazione nell’uso legittimo (ad es. a fini terapeutici e con supervisione costante del trattamento),
  • rimediali quanto possibile per contenere effetti di eventuali usi secondari illegittimi,
  • tecnologicamente neutri in modo da non subire troppo presto l’obsolescenza del tempo e dunque modulati su legislazione per principi più che per regole.

Non credo sia il caso di ricorrere ad ulteriori tipizzazioni di diritti, essendo l’autodeterminazione riconosciuta già da tempo come meritevole di una tutela costituzionale addirittura rafforzata in quanto presupposto di ogni altro diritto e libertà. Se, infatti, il diritto costituzionale si focalizza soprattutto sull’aspetto esterno, sulla manifestazione del pensiero, è anche vero che garanzie democratiche essenziali (libertà e segretezza del voto, segretezza della corrispondenza, libertà religiosa, sindacale, nemo tenetur se detegere, jus tacendi) e buona parte della disciplina antidiscriminatoria verrebbero meno laddove non fosse assicurata la libera e, appunto, incondizionata formazione della propria coscienza e il libero esercizio del proprio potere di scelta, che dunque presuppongono.

Conclusioni

Nella sentenza 467/91, la Consulta osserva che la libertà di coscienza, “si ricava dalla tutela delle libertà fondamentali e dei diritti inviolabili riconosciuti e garantiti all’uomo come singolo, ai sensi dell’art. 2 della Costituzione, dal momento che non può darsi una piena ed effettiva garanzia di questi ultimi senza che sia stabilita una correlativa protezione costituzionale di quella relazione intima e privilegiata dell’uomo con se stesso (…) poiché la coscienza individuale ha rilievo costituzionale quale principio creativo che rende possibile la realtà delle libertà fondamentali dell’uomo e quale regno delle virtualità di espressione dei diritti inviolabili del singolo nella vita di relazione, essa gode di una protezione costituzionale commisurata alla necessità che quelle libertà e quei diritti non risultino irragionevolmente compressi nelle loro possibilità di manifestazione e di svolgimento a causa di preclusioni o di impedimenti ingiustificatamente posti alle potenzialità di determinazione della coscienza medesima. (…)

La sfera intima della coscienza individuale deve esser considerata come il riflesso giuridico più profondo dell’idea universale della dignità della persona umana (…) che, nelle sue determinazioni conformi a quell’idea essenziale, esige una tutela equivalente a quella accordata ai menzionati diritti, vale a dire una tutela proporzionata alla priorità assoluta e al carattere fondante ad essi riconosciuti nella scala dei valori espressa dalla Costituzione italiana”.

La norma sul plagio (art. 603 cp, dichiarata incostituzionale con la sentenza sul caso Braibanti, non certo perché priva di un bene giuridico meritevole ma per la carenza di determinatezza che caratterizzava la norma incriminatrice e il procedimento di accertamento della responsabilità) già chiariva il rango dell’interesse protetto, individuato dalla Corte d’assise d’appello di Roma nella “libertà nella sua stessa originaria essenza, nei fattori dinamici, nel potere di influsso, nella facoltà di critica e di scelta, di ricerca e di decisione, di coscienza e di volontà”.

Ecco la vera posta in gioco: la “libertà nella sua originaria essenza”.

*Opinioni espresse a titolo personale

WHITEPAPER
Certificazioni GDPR: tutti i vantaggi per le organizzazioni che vi aderiscono
Legal
Privacy
@RIPRODUZIONE RISERVATA

Articolo 1 di 3