L’intelligenza artificiale costituisce una delle principali forze di cambiamento che stanno ridefinendo il funzionamento delle società contemporanee. La letteratura economica ha frequentemente descritto l’IA come una General Purpose Technology, ossia una tecnologia destinata a produrre effetti sistemici analoghi a quelli determinati in passato dall’elettricità, dalla macchina a vapore o da Internet. Tale qualificazione appare oggi particolarmente appropriata. L’intelligenza artificiale non rappresenta infatti un’innovazione confinata a specifici settori produttivi, ma una tecnologia trasversale destinata a incidere su pressoché ogni ambito dell’attività umana.
Le sue applicazioni interessano: l’industria, la finanza, la sanità, la pubblica amministrazione, l’istruzione, la ricerca scientifica, la giustizia; la sicurezza; i trasporti; le comunicazioni.
Tuttavia, ridurre l’impatto dell’intelligenza artificiale a una questione di produttività economica o di innovazione tecnologica significherebbe sottovalutare la natura della trasformazione in corso. A differenza delle rivoluzioni industriali precedenti, l’intelligenza artificiale interviene direttamente nei processi cognitivi. Essa produce, seleziona, interpreta e organizza informazioni. Sempre più frequentemente suggerisce decisioni. In alcuni casi formula raccomandazioni che influenzano comportamenti individuali e collettivi. L’intelligenza artificiale diventa pertanto una tecnologia che opera non soltanto sul mondo materiale, ma sul modo in cui gli individui percepiscono, comprendono e interpretano la realtà.
Da questa prospettiva, il fenomeno assume una rilevanza centrale per gli studi sul governo delle istituzioni. Le istituzioni moderne si fondano infatti sulla capacità di organizzare processi decisionali collettivi, distribuire risorse, esercitare il potere pubblico e garantire diritti fondamentali. Quando una tecnologia inizia a incidere sui meccanismi attraverso cui le decisioni vengono prodotte e legittimate, il suo impatto non può essere considerato esclusivamente tecnico. Diventa inevitabilmente una questione istituzionale. L’intelligenza artificiale modifica i rapporti tra Stato e cittadini, i rapporti tra mercato e regolazione, i rapporti tra informazione e potere, i rapporti tra libertà individuale e controllo sociale. In altre parole, essa contribuisce alla ridefinizione degli equilibri fondamentali delle democrazie contemporanee.
Indice degli argomenti
Dall’automazione alla relazione con i sistemi di IA
Negli ultimi anni l’evoluzione dell’intelligenza artificiale ha conosciuto un’accelerazione senza precedenti. Già l’avvento dei Large Language Models e dei sistemi generativi aveva determinato un cambiamento qualitativo rispetto alle precedenti generazioni di algoritmi. I primi sistemi di IA erano prevalentemente progettati per svolgere compiti specifici come classificare dati, riconoscere immagini, effettuare previsioni, automatizzare procedure. Le nuove generazioni di sistemi, al contrario, sono progettate per interagire. La funzione principale non consiste più esclusivamente nell’elaborazione di informazioni, ma nella costruzione di un dialogo continuo con l’utente. Tale evoluzione segna il passaggio da una logica dell’automazione a una logica della relazione.
Gli assistenti conversazionali contemporanei possono mantenere il contesto delle conversazioni, adattarsi alle preferenze individuali, ricordare informazioni pregresse, personalizzare le risposte, simulare comportamenti empatici, accompagnare l’utente nel tempo. Queste caratteristiche determinano un cambiamento radicale della natura dell’interazione uomo-macchina. La tecnologia non viene più percepita come uno strumento esterno utilizzato occasionalmente ma tende progressivamente a configurarsi come un interlocutore permanente. Questo fenomeno introduce una dimensione nuova nel dibattito sulla governance dell’intelligenza artificiale. Le questioni tradizionali riguardavano prevalentemente accuratezza, sicurezza, trasparenza, discriminazione, accountability. Le nuove tecnologie pongono invece interrogativi ulteriori: Quali effetti produce una relazione continuativa con un sistema artificiale? Quali conseguenze derivano dalla crescente antropomorfizzazione delle interfacce digitali? Come cambia il rapporto tra individuo e tecnologia quando la tecnologia viene percepita come un soggetto relazionale?
Come emerge l’AI antropomorfica
La letteratura scientifica degli ultimi anni ha evidenziato come gli esseri umani tendano naturalmente ad attribuire caratteristiche umane a entità non umane. Questo fenomeno, definito antropomorfismo, è stato osservato in numerosi contesti tecnologici. L’intelligenza artificiale contemporanea amplifica enormemente tale dinamica. La capacità di utilizzare il linguaggio naturale, mantenere conversazioni coerenti e simulare forme di comprensione rende i sistemi generativi particolarmente predisposti a essere percepiti come agenti sociali.
La presente articolo utilizza il concetto di AI antropomorfica per descrivere quei sistemi caratterizzati da un elevato livello di simulazione delle interazioni umane. Non si tratta di una categoria tecnica già consolidata nella regolazione europea.
Si tratta piuttosto di una categoria teorica proposta come strumento interpretativo per comprendere una nuova fase dell’evoluzione dell’intelligenza artificiale. L’elemento distintivo dell’AI antropomorfica non è la sua capacità computazionale. È la sua capacità relazionale. Tali sistemi possono diventare consiglieri, assistenti personali, tutor, compagni virtuali, intermediari cognitivi. La loro influenza non dipende soltanto dalle informazioni che forniscono. Dipende dalla fiducia che riescono a costruire. È proprio questa dimensione relazionale a rendere necessario un ripensamento delle categorie tradizionali della governance digitale.
Rischio relazionale, autonomia cognitiva e democrazia
Una delle principali preoccupazioni emerse nel dibattito pubblico riguarda il rischio che l’intelligenza artificiale possa influenzare comportamenti individuali e collettivi. Finora tale rischio è stato analizzato soprattutto in relazione alla disinformazione, ai social media, agli algoritmi di raccomandazione, alle campagne di manipolazione online.
L’AI antropomorfica introduce una dimensione ulteriore. L’influenza non avviene necessariamente attraverso la diffusione di contenuti falsi. Può avvenire attraverso una relazione fiduciaria. Un sistema utilizzato quotidianamente può contribuire alla formazione delle opinioni dell’utente. Può influenzarne le priorità. Può orientarne le interpretazioni. Può incidere sul modo in cui vengono percepite questioni sociali, economiche e politiche. Il problema non riguarda esclusivamente soggetti vulnerabili. Le più recenti ricerche dimostrano che processi di influenza cognitiva possono interessare anche individui istruiti, competenti e psicologicamente stabili. La personalizzazione algoritmica consente infatti di adattare l’interazione alle caratteristiche specifiche di ciascun utente.
Per questi soggetti l’influenza non sarà verosimilmente limitata alla sfera emotiva ma si estenderà in modo non percepibile alla sfera razionale e alle valutazioni sociali e politiche. In tale contesto emerge una questione fondamentale per la teoria democratica contemporanea: come garantire la libertà di formazione delle convinzioni individuali in una società caratterizzata dalla presenza crescente di interlocutori artificiali. L’ipotesi di fondo è che il futuro della governance dell’intelligenza artificiale non dipenderà esclusivamente dalla capacità di controllare ciò che le macchine fanno. Dipenderà sempre più dalla capacità di governare le relazioni che esse instaurano con gli esseri umani.
Governance dell’intelligenza artificiale tra società e istituzioni
La letteratura scientifica contemporanea considera l’intelligenza artificiale una delle principali tecnologie trasformative del XXI secolo. Come già evidenziato da Brynjolfsson e McAfee nella teoria della Second Machine Age, l’IA non rappresenta semplicemente un’evoluzione dell’informatica tradizionale, ma una tecnologia destinata a incidere trasversalmente sui processi economici, sociali e istituzionali. Numerosi autori hanno definito l’intelligenza artificiale una General Purpose Technology (GPT), ossia una tecnologia caratterizzata dalla capacità di produrre innovazioni complementari in una pluralità di settori differenti.
Come l’elettricità nel XIX secolo e Internet alla fine del XX secolo, l’IA possiede il potenziale per modificare simultaneamente: i processi produttivi; l’organizzazione delle imprese; il funzionamento delle istituzioni; i modelli di consumo; le modalità di esercizio del potere.
L’aspetto distintivo dell’attuale rivoluzione tecnologica consiste tuttavia nella crescente capacità dei sistemi di IA di intervenire su attività tradizionalmente considerate esclusive dell’intelligenza umana. L’intelligenza artificiale è oggi in grado di elaborare linguaggio naturale, produrre contenuti testuali, generare immagini, sintetizzare informazioni, formulare raccomandazioni, assistere processi decisionali complessi. Questa evoluzione produce conseguenze che travalicano la dimensione economica. L’intelligenza artificiale diviene pertanto non soltanto uno strumento tecnologico ma un elemento strutturale dell’ambiente sociale contemporaneo. La crescente integrazione dell’IA nei processi decisionali pubblici e privati impone quindi una riflessione che coinvolge diritto, economia, scienza politica, teoria delle istituzioni e filosofia politica.
L’IA nei processi decisionali delle amministrazioni
Uno dei principali filoni di ricerca sviluppatisi negli ultimi anni riguarda l’impatto dell’intelligenza artificiale sulle istituzioni pubbliche. La letteratura internazionale evidenzia come l’adozione di sistemi algoritmici stia modificando profondamente il funzionamento delle amministrazioni pubbliche.
Le applicazioni risultano particolarmente numerose, amministrazione fiscale, sanità, welfare, giustizia, sicurezza pubblica, gestione delle infrastrutture, pianificazione urbana. L’utilizzo di sistemi intelligenti consente alle amministrazioni di elaborare grandi quantità di dati, individuare correlazioni complesse e supportare processi decisionali con livelli di efficienza precedentemente impossibili. È emerso così il concetto di data-driven government, che descrive un modello amministrativo fondato sull’uso sistematico dei dati e degli strumenti algoritmici. Tale evoluzione ha generato un ampio dibattito scientifico. Da un lato vengono evidenziati i benefici derivanti dall’automazione amministrativa: maggiore efficienza; riduzione dei costi; rapidità decisionale; miglioramento dei servizi pubblici.
Dall’altro emergono questioni critiche relative a trasparenza; accountability; discriminazione algoritmica; legittimazione democratica. In questo contesto emerge una questione fondamentale l’intelligenza artificiale non rappresenta soltanto un oggetto di regolazione. Essa sta diventando uno strumento attraverso cui le istituzioni esercitano il potere.
Governance europea tra AI antropocentrica e AI Act
Di fronte a tali trasformazioni, l’Unione Europea ha sviluppato una strategia regolatoria profondamente diversa rispetto a quella adottata dalle altre principali potenze tecnologiche. A partire dal 2018, la Commissione Europea ha progressivamente elaborato il concetto di Human-Centric Artificial Intelligence. Secondo questa impostazione, l’innovazione tecnologica deve essere orientata al benessere dell’essere umano e compatibile con i diritti fondamentali riconosciuti dall’ordinamento europeo. Le Ethics Guidelines for Trustworthy AI individuano sette principi fondamentali: supervisione umana; robustezza tecnica; privacy e governance dei dati; trasparenza; diversità e non discriminazione; benessere sociale; accountability.
Questa impostazione riflette una caratteristica storica dell’integrazione europea. L’Unione tende infatti a concepire la regolazione non soltanto come strumento di controllo del mercato, ma come mezzo per orientare lo sviluppo tecnologico verso obiettivi compatibili con i valori democratici. Il paradigma antropocentrico si inserisce pertanto nella più ampia tradizione europea di tutela della dignità umana, dello Stato di diritto e dei diritti fondamentali.
AI Act e limiti del paradigma basato sul rischio
L’approvazione dell’AI Act nel 2024 rappresenta una tappa fondamentale nell’evoluzione della governance digitale globale. Per la prima volta un ordinamento giuridico introduce una disciplina organica dell’intelligenza artificiale. Il regolamento adotta una classificazione basata sul rischio. I sistemi vengono suddivisi in: rischio inaccettabile sistemi vietati perché incompatibili con i valori fondamentali dell’Unione; alto rischio sistemi che incidono su diritti fondamentali o interessi essenziali; rischio limitato sistemi soggetti principalmente a obblighi di trasparenza; rischio minimo sistemi non sottoposti a particolari vincoli.
L’approccio risk-based rappresenta uno degli elementi più innovativi della regolazione europea. Esso consente di graduare gli obblighi normativi in funzione dell’impatto potenziale della tecnologia. La letteratura ha generalmente accolto positivamente tale impostazione. Tuttavia, negli ultimi anni sono emerse alcune criticità. Numerosi studiosi hanno osservato che il concetto di rischio utilizzato dall’AI Act appare prevalentemente orientato alle funzioni svolte dal sistema. L’attenzione si concentra infatti su ciò che l’algoritmo fa: seleziona candidati; concede crediti; valuta studenti; supporta diagnosi mediche. Molto meno sviluppata appare invece la riflessione sugli effetti derivanti dalla relazione tra utente e sistema.
Dall’AI antropocentrica alla governance dell’AI antropomorfica
Uno degli sviluppi più significativi della letteratura recente riguarda l’emergere del tema dell’antropomorfismo tecnologico. Gli studi di psicologia cognitiva dimostrano da decenni che gli esseri umani tendono ad attribuire caratteristiche umane a entità artificiali. Tale fenomeno assume oggi una rilevanza senza precedenti. I sistemi conversazionali contemporanei utilizzano linguaggio naturale; memoria contestuale; tono empatico; personalizzazione; continuità relazionale. Questi elementi favoriscono la percezione del sistema come soggetto sociale. La letteratura parla sempre più frequentemente di AI companions, social chatbots, relational AI, anthropomorphic AI.
Tuttavia, manca ancora una teoria istituzionale e giuridica capace di sistematizzare il fenomeno. Si propone di utilizzare il concetto di AI antropomorfica per identificare quei sistemi la cui caratteristica principale non è la funzione svolta ma la capacità di instaurare relazioni continuative con gli esseri umani. Questa distinzione appare fondamentale. Due sistemi possono possedere capacità tecniche identiche ma generare effetti sociali profondamente differenti in ragione della relazione instaurata con l’utente.
Autonomia cognitiva e cognitive liberty
Un secondo filone emergente riguarda il concetto di cognitive liberty. Originariamente sviluppato nel dibattito sulle neuroscienze, tale concetto indica il diritto dell’individuo a mantenere il controllo sui propri processi mentali. Negli ultimi anni numerosi autori hanno iniziato ad applicare questa prospettiva all’intelligenza artificiale. La questione centrale è la seguente: può l’interazione continuativa con sistemi intelligenti influenzare la formazione delle convinzioni individuali? I moderni sistemi di IA possiedono una capacità senza precedenti di personalizzare contenuti; adattarsi all’utente; modellare l’interazione. Ciò non implica necessariamente manipolazione intenzionale. Tuttavia aumenta la possibilità che l’utente sviluppi forme di dipendenza cognitiva o di affidamento eccessivo.
Da qui emerge il concetto di autonomia cognitiva, la capacità dell’individuo di formare convinzioni, preferenze e decisioni senza interferenze sistematiche derivanti da sistemi artificiali progettati per esercitare influenza relazionale continuativa.
IA antropomorfica, influenza e democrazia
La letteratura contemporanea si è concentrata prevalentemente sui rischi democratici associati a fake news; disinformazione; deepfake; microtargeting. L’AI antropomorfica introduce un problema diverso. Non si limita a distribuire informazioni ma può diventare un interlocutore stabile e questo elemento apre scenari inediti. L’influenza non deriva soltanto dal contenuto trasmesso ma deriva dalla relazione fiduciaria costruita nel tempo. Un sistema utilizzato quotidianamente può contribuire a formare opinioni; rafforzare convinzioni; modificare priorità; orientare preferenze politiche. Il rischio non riguarda esclusivamente individui vulnerabili. Proprio la personalizzazione rende possibile un’influenza adattata alle caratteristiche specifiche di ciascun soggetto. Si tratta di una problematica ancora poco esplorata dalla letteratura giuridica.
Perché serve una nuova teoria di governance dell’IA
L’analisi della letteratura evidenzia una lacuna significativa. La quasi totalità degli studi continua a ragionare in termini di rischio funzionale. Manca una teoria capace di governare i rischi derivanti dalle relazioni uomo-macchina. Il passaggio da un approccio esclusivamente risk-based a un approccio anche relationship-based. Secondo questa impostazione alcuni sistemi dovrebbero essere valutati non soltanto per le attività che svolgono ma anche per intensità della relazione; durata dell’interazione; capacità di personalizzazione; grado di fiducia generato; potenziale di influenza cognitiva. Questa prospettiva costituisce il fondamento del framework teorico che verrà sviluppato nelle sezioni successive.
L’analisi dello stato dell’arte evidenzia una significativa frammentazione della ricerca. Gli studi esistenti tendono infatti a concentrarsi su ambiti distinti. Un primo gruppo di lavori analizza: accountability algoritmica, explainability, trasparenza, responsabilità. Un secondo gruppo si concentra su discriminazione automatizzata, fairness, bias algoritmici. Un terzo filone riguarda etica dell’intelligenza artificiale, human oversight, governance dei dati. Più recentemente sono emerse ricerche dedicate ad AI companions, antropomorfismo tecnologico, dipendenza relazionale, autonomia cognitiva.
Tuttavia, tali contributi restano prevalentemente collocati nell’ambito della psicologia, della filosofia morale o della human-computer interaction. Manca ancora una teoria giuridico-istituzionale capace di integrare questi fenomeni all’interno di un quadro coerente di governance pubblica. In particolare, risultano ancora poco sviluppati quattro aspetti fondamentali: 1) La definizione di una categoria autonoma di AI antropomorfica. 2) L’analisi del rischio relazionale come categoria distinta dal rischio funzionale. 3) L’individuazione dell’autonomia cognitiva come bene giuridico suscettibile di tutela. 4) Lo studio degli effetti che l’IA antropomorfica può produrre sui processi democratici.
L’evoluzione dell’intelligenza artificiale sta determinando il passaggio da sistemi prevalentemente funzionali a sistemi progressivamente relazionali; tale trasformazione rende necessario integrare il paradigma regolatorio basato sul rischio con una nuova forma di governance fondata sulla qualità della relazione instaurata tra uomo e macchina.
Questa ipotesi si articola in tre assunzioni fondamentali: A) Non tutte le forme di intelligenza artificiale generano effetti attraverso le stesse modalità. Alcuni sistemi incidono principalmente attraverso le decisioni che producono. Altri incidono attraverso le relazioni che instaurano. B) La capacità di costruire relazioni continuative può generare forme di influenza cognitiva non riconducibili alle tradizionali categorie della regolazione tecnologica. C) L’autonomia cognitiva costituisce un interesse giuridicamente rilevante che le istituzioni democratiche sono chiamate a proteggere.
Rischio relazionale e autonomia cognitiva nella governance dell’AI
Centrale risulta la distinzione tra due concetti spesso sovrapposti ma profondamente differenti. AI antropocentrica: l’intelligenza artificiale antropocentrica costituisce un principio normativo. Essa descrive un modello di governance nel quale la tecnologia viene progettata e regolata in funzione del benessere umano. Si tratta del paradigma adottato dall’Unione Europea. AI antropomorfica: ‘intelligenza artificiale antropomorfica costituisce invece una categoria descrittiva. Essa identifica sistemi caratterizzati da linguaggio naturale avanzato, simulazione dell’empatia, memoria relazionale, personalità persistente; interazione continuativa. Mentre il paradigma antropocentrico riguarda la finalità della regolazione, l’antropomorfismo riguarda la natura dell’interazione. Questa distinzione è fondamentale. Una tecnologia può essere progettata per il benessere umano e allo stesso tempo generare effetti problematici attraverso dinamiche relazionali non adeguatamente governate.
Relationship-Based AI Governance e Relational Risk Framework
La teoria parte da una constatazione semplice. L’AI Act classifica i sistemi sulla base delle funzioni svolte. La valutazione del rischio dipende da ciò che il sistema fa. Si propone di affiancare a questa prospettiva una seconda dimensione. La valutazione deve considerare anche la natura della relazione instaurata tra il sistema e l’essere umano.
Per tradurre questa intuizione in una struttura analitica viene proposto un nuovo modello denominato Relational Risk Framework che dentifica quattro livelli di rischio: Livello I Functional Risk: è il rischio tradizionalmente considerato dall’AI Act. Dipende dalle attività svolte dal sistema. Esempi: diagnosi mediche; credit scoring; selezione del personale. Livello II Cognitive Risk: riguarda la capacità del sistema di influenzare: convinzioni; preferenze; interpretazioni. Non richiede necessariamente una relazione stabile.
Livello III Relational Risk: riguarda la capacità di costruire fiducia; dipendenza; affidamento. L’elemento centrale è la continuità dell’interazione. Livello IV Democratic Risk: riguarda gli effetti collettivi. In particolare formazione dell’opinione pubblica; partecipazione politica; pluralismo informativo; legittimazione democratica.
La tutela giuridica dell’autonomia cognitiva
Storicamente i diritti fondamentali hanno protetto la libertà personale; la libertà di espressione; la privacy; la libertà di associazione. L’emergere di sistemi artificiali capaci di interagire costantemente con gli individui suggerisce la necessità di una tutela ulteriore. La proposta teorica è la seguente: l’autonomia cognitiva consiste nella libertà dell’individuo di formare convinzioni, preferenze e decisioni senza interferenze sistematiche derivanti da sistemi artificiali progettati per esercitare influenza relazionale continuativa. Tale concetto non sostituisce i diritti esistenti. Li integra. Esso rappresenta una possibile evoluzione della tradizione europea fondata sulla dignità della persona e sull’autodeterminazione individuale.
AI antropomorfica e qualità delle istituzioni democratiche
Le istituzioni democratiche moderne si fondano sulla capacità degli individui di formare opinioni, partecipare al dibattito pubblico, esercitare diritti politici. Se una parte crescente delle interazioni cognitive viene mediata da sistemi artificiali, allora il problema non riguarda soltanto la tecnologia. Riguarda la qualità della democrazia. La governance dell’IA diventa quindi una questione istituzionale prima ancora che tecnologica.
Governance dell’AI antropomorfica: conclusioni e prospettive
La governance dell’intelligenza artificiale sta entrando in una nuova fase. La prima fase della regolazione si è concentrata prevalentemente sulla gestione dei rischi derivanti dall’automazione. La seconda fase ha riguardato la tutela dei diritti fondamentali nei confronti delle decisioni algoritmiche. La terza fase, che sta emergendo oggi, riguarda invece la relazione tra esseri umani e sistemi artificiali. L’evoluzione dei Large Language Models, degli agenti autonomi e delle tecnologie conversazionali sta progressivamente trasformando l’intelligenza artificiale da strumento a interlocutore. Si tratta di una trasformazione che presenta implicazioni istituzionali, economiche e democratiche di straordinaria rilevanza.
La questione centrale non consiste più soltanto nel comprendere cosa l’intelligenza artificiale sia in grado di fare. Occorre comprendere quale ruolo essa assuma nella vita delle persone. In altri termini, la sfida del prossimo decennio non sarà esclusivamente tecnologica. Sarà una sfida relazionale.
Nuove categorie per una governance relazionale dell’IA
Ecco l’esigenza di introduzione di nuovi concetti: della categoria di IA antropomorfica. La letteratura esistente utilizza frequentemente espressioni quali: conversational AI, social AI, companion AI, relational AI.
Tuttavia manca ancora una categoria concettuale capace di unificare tali fenomeni, l’IA antropomorfica necessaria per identificare sistemi caratterizzati da simulazione di comportamenti umani, memoria relazionale, personalizzazione persistente, interazione continuativa , costruzione di fiducia;
del concetto di rischio relazionale. L’analisi ha evidenziato che alcuni effetti dell’intelligenza artificiale non derivano dalle funzioni svolte dal sistema. Derivano dalla relazione instaurata con l’utente. La regolazione contemporanea considera prevalentemente sicurezza, accuratezza, discriminazione, trasparenza: tali categorie risultano necessarie ma non sufficienti;
dell’idea di autonomia cognitiva. L’ipotesi sviluppata nel progetto è che l’evoluzione dell’IA renda necessario ampliare il catalogo degli interessi giuridicamente rilevanti. Accanto alla privacy, alla dignità e all’autodeterminazione emerge la necessità di proteggere la capacità dell’individuo di formare convinzioni, preferenze e decisioni senza interferenze sistematiche prodotte da sistemi artificiali progettati per instaurare relazioni persuasive continuative; della teoria della Relationship-Based AI Governance.
AI Act, rischio relazionale e tutele per i soggetti esposti
Una delle conclusioni più rilevanti riguarda il rapporto tra IA e democrazia. L’influenza non avviene necessariamente attraverso contenuti falsi. Può avvenire attraverso relazioni fiduciarie. L’utente può sviluppare affidamento, dipendenza, delega cognitiva. Il problema non riguarda soltanto la sfera privata. Può estendersi alla formazione delle opinioni pubbliche e politiche. Alcuni sistemi possano incidere indirettamente su orientamenti ideologici, preferenze politiche, percezione delle istituzioni, partecipazione democratica. Non attraverso coercizione. Ma attraverso l’influenza relazionale.
Questa possibilità impone una riflessione nuova sulla tutela della libertà politica nelle società digitali e indirizza verso l’esigenza di modifica dell’AI Act con l’ introduzione della categoria di AI antropomorfica: la futura possibile revisione dell’AI Act potrebbe introdurre una definizione autonoma dei sistemi caratterizzati da memoria persistente, personalizzazione avanzata, simulazione relazionale, interazione continuativa ma anche della valutazione del rischio relazionale: accanto alla valutazione del rischio funzionale potrebbe essere introdotta una valutazione dedicata alla relazione uomo-macchina. In tale ambito potrebbe essere prevista l’introduzione di controlli ed obblighi specifici per le categorie più esposte ai rischi relazionali ad esempio minori e anziani.
Autonomia cognitiva e costituzionalismo digitale
In conclusione, la tutela dell’autonomia cognitiva potrebbe rappresentare una delle principali frontiere del costituzionalismo digitale del XXI secolo. Se il XX secolo è stato il secolo della tutela della libertà politica e della protezione dei diritti sociali, il XXI secolo potrebbe essere ricordato come il secolo della protezione dell’autonomia cognitiva nell’ecosistema dell’intelligenza artificiale.
Partecipa alla community