intelligenza artificiale

La responsabilità nell’era dell’IA: nuovi scenari di innovazione e controllo



Indirizzo copiato

Algoritmi e decisioni umane si intrecciano in un nuovo scenario tecnologico. L’innovazione digitale costringe a ripensare i meccanismi di attribuzione delle responsabilità, aprendo prospettive inedite di collaborazione e controllo

Pubblicato il 28 nov 2024

Giuseppe Pasquale Macrì

Direttore del Dipartimento di Medicina Legale e Tutela diritti in Sanità della Asl Toscana Sud Est



intelligenza artificiale pmi startup (1)

Le rivoluzioni, quelle vere non si fanno annunciare; arrivano, decadono, si impongono con nuove soluzioni e nuovi problemi. Sta così accadendo con l’applicazione sempre più estensiva dei meccanismi di intelligenza artificiale (IA) nei più svariati ambiti in cui si articolano le dinamiche socioeconomiche e relazionali ovvero profondamente impattando modificando discipline e professioni quali quelle inerenti la medicina, la giustizia, l’ingegneria, il commercio e la finanza.

Responsabilità dei danni nell’era dell’intelligenza artificiale

Giova subito premettere che la rivoluzione della IA non può essere considerata nell’ambito dell’evoluzione più avanzata della rivoluzione tecnologica. Queste considerazioni rilevano soprattutto quando si pone il problema della responsabilità dei danni che potranno derivare dall’uso di algoritmi, segnatamente laddove, per allocare il corretto risarcimento, occorra individuare specifiche e personali responsabilità.

In altri termini, la responsabilità professionale nell’era della tecnologia si profilava bipartita, cadendo in capo al professionista o al produttore dello strumento tecnologico ovvero, in più rari casi, venendo condivisa da entrambi.

Questo sistema binario non soddisfa nello scenario di responsabilità professionale derivante dall’utilizzo di strumenti dotati di intelligenza artificiale.

L’autonoma elaborazione dei dati da parte dell’algoritmo potrebbe rendere arduo individuare le principali coordinate dell’errore con conseguente difficoltà nella fase di imputazione della responsabilità.

Implicazioni di responsabilità dall’uso di IA in ambito medico

Questo è particolarmente rilevante in ambito medico, dove l’IA è utilizzata per analisi cliniche, diagnosi e raccomandazioni terapeutiche; dalla robotica alla realtà aumentata fino al metaverso. La tecnologia digitale prende sempre più spazio in sala operatoria portando con sé implicazioni importati, in primo luogo la tutela dei diritti del cittadino in termini di salute e sicurezza nei luoghi di cura. Ad esempio, chi è responsabile se un sistema di IA diagnostica erroneamente una malattia? Il medico che si è affidato al software; il produttore del software; il programmatore che ha sviluppato l’algoritmo o chi ha formato i dati per l’elaborazione dell’algoritmo?

L’applicazione dell’IA in sanità è un’area di sviluppo molto rilevante, in qualche modo trasversale a ogni tematica che riguardi i nuovi modelli di organizzazione sanitaria. L’OMS ha tracciato le Strategie Globali della Sanità Digitale 2020 – 2025 e ha approvato a fine novembre 2023 il documento che elenca le principali considerazioni normative sull’IA, volte a promuovere un uso sicuro, efficace e responsabile della stessa in ambito sanitario.

Autonomia decisionale dell’IA: questioni morali

Un ulteriore tema di riflessione riguarda l’autonomia decisionale dell’IA. In settori come la giustizia e la finanza, sistemi IA sono già utilizzati per prendere decisioni cruciali, come la concessione di prestiti o la determinazione delle pene. Tuttavia, delegare tali decisioni a un algoritmo solleva questioni morali: è giusto affidare a una macchina decisioni che hanno un impatto diretto sulla vita delle persone? Come possiamo garantire che queste decisioni siano prive di pregiudizi nascosti nei dati di addestramento? L’uso di IA in queste situazioni richiede un controllo rigoroso per evitare discriminazioni e ingiustizie.

Inoltre, questi sistemi spesso non offrono trasparenza su come arrivano a determinate conclusioni. Questo problema, noto come “opacità algoritmica”, è uno degli ostacoli principali alla fiducia pubblica nei confronti dell’IA. Se non possiamo spiegare perché un algoritmo ha preso una certa decisione, diventa difficile giustificarla e, soprattutto, correggerla.

IA, nuove sfide in termini di cybersecurity

Oltre agli aspetti etici e legali, l’implementazione dell’IA introduce anche nuove sfide in termini di cybersecurity. L’integrazione dell’intelligenza artificiale nei sistemi sanitari solleva preoccupazioni sul fronte della sicurezza dei dati sensibili. La sanità, in particolare, è un settore che si affida sempre di più alla tecnologia digitale per raccogliere, analizzare e condividere dati medici. Tuttavia, ciò la rende anche un bersaglio sempre più attraente per gli attacchi informatici.

In questo contesto, l’IA ha un doppio ruolo: da un lato, può contribuire a rafforzare la sicurezza informatica attraverso sistemi avanzati di rilevamento delle minacce e prevenzione degli attacchi. Dall’altro, se non adeguatamente protetta, può diventare un ulteriore punto debole, soprattutto se i modelli di apprendimento automatico vengono manipolati da attori malintenzionati. La manipolazione dei dati di input per ingannare i sistemi IA, conosciuta come “adversarial attack”, rappresenta un rischio reale, soprattutto in un settore delicato come quello sanitario.

La normativa sull’IA: verso un quadro regolatorio europeo

Il panorama normativo sta evolvendo rapidamente per affrontare le nuove sfide legate all’intelligenza artificiale: il regolamento europeo 1689/2024, approvato lo scorso 13 giugno (noto come AI Act) rappresenta il primo quadro giuridico globale specifico sull’AI e avrà un impatto diretto su come le aziende potranno sviluppare e utilizzare queste tecnologie in modo sicuro e conforme alle leggi.

Guardando al futuro, sono fondamentali investimenti in soluzioni di AI che non solo migliorino l’efficienza e l’accuratezza, ma che siano anche eticamente solide e giuridicamente ineccepibili.

Soprattutto in ambito sanitario, la collaborazione tra settore privato, istituzioni e comunità scientifica sarà cruciale per garantire che le innovazioni in campo medico siano al servizio della salute pubblica senza compromettere la sicurezza e i diritti dei pazienti.

Prospettive future

La responsabilità professionale nell’era dell’intelligenza artificiale è un argomento complesso che richiede un’analisi multidisciplinare, coinvolgendo giuristi, tecnologi e studiosi dell’etica. Mentre l’IA continua a trasformare numerosi settori, è fondamentale sviluppare nuove leggi e regolamenti che riflettano la natura unica di queste tecnologie. Al contempo, devono essere messe in atto misure robuste per proteggere i sistemi IA da attacchi esterni e garantirne un utilizzo trasparente e sicuro. La collaborazione internazionale e il dialogo tra pubblico e privato saranno essenziali per affrontare queste sfide e sfruttare appieno le potenzialità dell’intelligenza artificiale in modo collettivamente vantaggioso, etico e sicuro.

EU Stories - La coesione innova l'Italia

Tutti
Video & Podcast
Analisi
Social
Iniziative
Podcast
Centro Servizi Territoriali: uno strumento per accompagnare gli enti nell’attuazione della politica di coesione. Il podcast “CapCoe. La coesione riparte dalle persone”
Podcast
EU Stories, il podcast | Politiche di coesione e comunicazione: una sinergia per il futuro
Opinioni
La comunicazione dei fondi europei da obbligo ad opportunità
eBook
L'analisi della S3 in Italia
Norme UE
European Accessibility Act: passi avanti verso un’Europa inclusiva
Agevolazioni
A febbraio l’apertura dello sportello Mini Contratti di Sviluppo
Quadri regolamentari
Nuovi Orientamenti sull’uso delle opzioni semplificate di costo
Coesione
Nuovo Bauhaus Europeo (NEB): i premi che celebrano innovazione e creatività
Dossier
Pubblicato il long form PO FESR 14-20 della Regione Sicilia
Iniziative
400 milioni per sostenere lo sviluppo delle tecnologie critiche nel Mezzogiorno
Formazione
“Gian Maria Volonté”: dalle aule al mondo del lavoro, focus sui tirocini della Scuola d’Arte Cinematografica
TRANSIZIONE ENERGETICA
Il ruolo del finanziamento BEI per lo sviluppo del fotovoltaico in Sicilia
Formazione
“Gian Maria Volonté”: dalla nascita ai progetti futuri, focus sulla Scuola d’Arte Cinematografica. Intervista al coordinatore Antonio Medici
MedTech
Dalla specializzazione intelligente di BionIT Labs una innovazione bionica per la disabilità
Finanza sostenibile
BEI e E-Distribuzione: investimenti per la sostenibilità energetica
Professioni
Servono competenze adeguate per gestire al meglio i fondi europei
Master
Come formare nuove professionalità per governare e gestire al meglio i fondi europei?
Programmazione UE
Assunzioni per le politiche di coesione: prossimi passi e aspettative dal concorso nazionale. Il podcast “CapCoe. La coesione riparte dalle persone”
innovazione sociale
Rigenerazione urbana: il quartiere diventa un hub dell’innovazione. La best practice di San Giovanni a Teduccio
Programmazione europ
Fondi Europei: la spinta dietro ai Tecnopoli dell’Emilia-Romagna. L’esempio del Tecnopolo di Modena
Interventi
Riccardo Monaco e le politiche di coesione per il Sud
Iniziative
Implementare correttamente i costi standard, l'esperienza AdG
Finanziamenti
Decarbonizzazione, 4,8 miliardi di euro per progetti cleantech
Formazione
Le politiche di Coesione UE, un corso gratuito online per professionisti e giornalisti
Interviste
L’ecosistema della ricerca e dell’innovazione dell’Emilia-Romagna
Interviste
La ricerca e l'innovazione in Campania: l'ecosistema digitale
Iniziative
Settimana europea delle regioni e città: un passo avanti verso la coesione
Iniziative
Al via il progetto COINS
Eventi
Un nuovo sguardo sulla politica di coesione dell'UE
Iniziative
EuroPCom 2024: innovazione e strategia nella comunicazione pubblica europea
Iniziative
Parte la campagna di comunicazione COINS
Interviste
Marco De Giorgi (PCM): “Come comunicare le politiche di coesione”
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politiche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia
Podcast
Centro Servizi Territoriali: uno strumento per accompagnare gli enti nell’attuazione della politica di coesione. Il podcast “CapCoe. La coesione riparte dalle persone”
Podcast
EU Stories, il podcast | Politiche di coesione e comunicazione: una sinergia per il futuro
Opinioni
La comunicazione dei fondi europei da obbligo ad opportunità
eBook
L'analisi della S3 in Italia
Norme UE
European Accessibility Act: passi avanti verso un’Europa inclusiva
Agevolazioni
A febbraio l’apertura dello sportello Mini Contratti di Sviluppo
Quadri regolamentari
Nuovi Orientamenti sull’uso delle opzioni semplificate di costo
Coesione
Nuovo Bauhaus Europeo (NEB): i premi che celebrano innovazione e creatività
Dossier
Pubblicato il long form PO FESR 14-20 della Regione Sicilia
Iniziative
400 milioni per sostenere lo sviluppo delle tecnologie critiche nel Mezzogiorno
Formazione
“Gian Maria Volonté”: dalle aule al mondo del lavoro, focus sui tirocini della Scuola d’Arte Cinematografica
TRANSIZIONE ENERGETICA
Il ruolo del finanziamento BEI per lo sviluppo del fotovoltaico in Sicilia
Formazione
“Gian Maria Volonté”: dalla nascita ai progetti futuri, focus sulla Scuola d’Arte Cinematografica. Intervista al coordinatore Antonio Medici
MedTech
Dalla specializzazione intelligente di BionIT Labs una innovazione bionica per la disabilità
Finanza sostenibile
BEI e E-Distribuzione: investimenti per la sostenibilità energetica
Professioni
Servono competenze adeguate per gestire al meglio i fondi europei
Master
Come formare nuove professionalità per governare e gestire al meglio i fondi europei?
Programmazione UE
Assunzioni per le politiche di coesione: prossimi passi e aspettative dal concorso nazionale. Il podcast “CapCoe. La coesione riparte dalle persone”
innovazione sociale
Rigenerazione urbana: il quartiere diventa un hub dell’innovazione. La best practice di San Giovanni a Teduccio
Programmazione europ
Fondi Europei: la spinta dietro ai Tecnopoli dell’Emilia-Romagna. L’esempio del Tecnopolo di Modena
Interventi
Riccardo Monaco e le politiche di coesione per il Sud
Iniziative
Implementare correttamente i costi standard, l'esperienza AdG
Finanziamenti
Decarbonizzazione, 4,8 miliardi di euro per progetti cleantech
Formazione
Le politiche di Coesione UE, un corso gratuito online per professionisti e giornalisti
Interviste
L’ecosistema della ricerca e dell’innovazione dell’Emilia-Romagna
Interviste
La ricerca e l'innovazione in Campania: l'ecosistema digitale
Iniziative
Settimana europea delle regioni e città: un passo avanti verso la coesione
Iniziative
Al via il progetto COINS
Eventi
Un nuovo sguardo sulla politica di coesione dell'UE
Iniziative
EuroPCom 2024: innovazione e strategia nella comunicazione pubblica europea
Iniziative
Parte la campagna di comunicazione COINS
Interviste
Marco De Giorgi (PCM): “Come comunicare le politiche di coesione”
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politiche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia

Articoli correlati

Articolo 1 di 4