Se il progresso dell’intelligenza artificiale pone nuovi rischi alla società - Agenda Digitale

lo studio

Se il progresso dell’intelligenza artificiale pone nuovi rischi alla società

Cosa accadrebbe se l’intelligenza artificiale venisse incorporata nella vita quotidiana prima che le sue criticità siano completamente risolte? Si tratta di un rischio da evitare, investendo tempo e risorse per affrontare le sfide poste dalla tecnologia. Ma, cosa ancor più importante, servono formazione e informazione

24 Nov 2021
Marco Martorana

avvocato, studio legale Martorana, Presidente Assodata, DPO Certificato UNI 11697:2017

Lucas Pinelli

Studio legale Martorana – Vice President for Marketing, ELSA Belgium

L’intelligenza artificiale ha raggiunto un punto in cui i suoi aspetti negativi nel mondo reale stanno diventando sempre più difficili da ignorare ma ancora più difficili da fermare.

Così, uno studio dell’Università di Stanford indica che i successi del settore rendono ora indispensabile pensare seriamente ai lati negativi e ai rischi che un’ampia applicazione dell’IA può rivelare.

Intelligenza artificiale, risorsa o problema per il diritto? Tutte le questioni aperte

I rischi dell’applicazione dell’IA nel quotidiano

La crescente capacità di automatizzare le decisioni su larga scala è un’arma a doppio taglio; com’è noto: il rischio discriminazione non è mai lontano. Gli algoritmi elaborati sui dati storici rafforzano e persino esacerbano i pregiudizi e le disuguaglianze già esistenti, con annessi rischi e minacce per i principi democratici.

WHITEPAPER
Smart Facility Management: scopri le soluzioni digitali per un approccio data-driven
Blockchain
Intelligenza Artificiale

Mentre la ricerca sull’intelligenza artificiale è stata tradizionalmente di competenza di scienziati informatici e ricercatori che studiano i processi cognitivi, è diventato chiaro che tutte le aree di indagine umana, in particolare le scienze sociali, devono essere sempre più incluse nelle discussioni sul futuro del campo dell’IA. Ridurre al minimo gli impatti negativi sulla società e valorizzare quelli positivi richiede quindi più che sole soluzioni tecnologiche, bensì è necessario un impegno costante e un’attenzione continua della società.

Pertanto, la preoccupazione più immediata per l’IA è cosa accadrà se verrà incorporata irrimediabilmente nella vita quotidiana prima che le sue criticità siano completamente risolte.

Bias codificati e continui

Le aziende fanno già uso di modelli statistici per analizzare i dati dei clienti e produrre contenuti, ma vari sistemi di generazione di testo hanno avuto problemi persistenti con bias codificati e continui che tendono a far proliferare frequentemente falsità e disinformazione.

Intelligenza artificiale, tutti i pregiudizi (bias) che la rendono pericolosa

Peraltro, l’Australia, in un tentativo di utilizzare l’intelligenza artificiale per risolvere problemi sociali difficili come la pandemia ha annunciato di voler sperimentare l’uso di tecnologie di riconoscimento facciale per consentire alla polizia di due dei suoi stati più grandi di verificare se le persone in quarantena COVID-19 rimangono effettivamente a casa.

Eppure, è noto come la tecnologia di riconoscimento facciale non sia considerata attualmente sufficientemente affidabile e comporti tuttora importanti discriminazioni basate sulla razza, l’origine etnica o di genere. Questi sistemi generando discriminazioni strutturali.

Il parere congiunto dei garanti europei

Occorre così ricordare il parere congiunto dei Garanti europei per la protezione dei dati, che affermavano lo scorso mese di giugno che “applicazioni come il riconoscimento facciale dal vivo interferiscono con i diritti e le libertà fondamentali in misura tale da poter mettere in discussione l’essenza di tali diritti e libertà. […] Un divieto generale dell’uso del riconoscimento facciale nelle aree accessibili al pubblico è il punto di partenza necessario se vogliamo preservare le nostre libertà e creare un quadro giuridico incentrato sull’uomo per l’IA”.

Più che utilizzare l’intelligenza artificiale come unico strumento per risolvere problemi sociali difficili, quello che viene chiamato nello studio di Stanford “tecno-soluzionismo”, bisogna quindi trattare l’IA come dovrebbe essere: uno strumento tra i tanti.

Quale futuro per l’IA e l’umanità

È necessario, pertanto, compiere alcuni passi importanti. I governi svolgono un ruolo fondamentale nel plasmare lo sviluppo e l’applicazione dell’IA e si sono rapidamente adattati per riconoscere l’importanza della tecnologia per settori come la scienza o l’economia.

Tuttavia, le istituzioni governative sono ancora indietro e saranno necessari investimenti sostenuti di tempo e risorse per affrontare le sfide poste dalla tecnologia in rapida evoluzione. Oltre a regolamentare gli aspetti più influenti delle applicazioni dell’IA sulla società, i governi devono guardare avanti per garantire la creazione di comunità informate – e soprattutto ben informate.

L’IA a scuola per formare la prossima generazione

Incorporare la comprensione dei concetti e delle implicazioni dell’intelligenza artificiale nell’istruzione è un esempio di un passo necessario per aiutare a preparare la prossima generazione a vivere e contribuire a un mondo equo infuso di intelligenza artificiale.

La stessa comunità dei ricercatori sull’IA ha un ruolo fondamentale da svolgere in questo senso, imparando a condividere tendenze e scoperte importanti con il pubblico in modi informativi e attuabili, privi di clamore e chiari sui pericoli e sulle conseguenze indesiderate insieme alle opportunità e ai benefici.

Si dovrebbe anche poter riconoscere che la completa autonomia non è l’obiettivo finale per i sistemi di intelligenza artificiale. Il punto di forza della specie umana deriva dalla nostra capacità di lavorare insieme e realizzare più di quanto chiunque di noi potrebbe da solo. L’intelligenza artificiale deve essere incorporata in quel sistema a livello di comunità, con chiare linee di comunicazione tra i decisori umani e automatizzati. Alla fine dei conti, come conclude lo studio, il successo del settore sarà misurato da come ha dato potere a tutte le persone, e non dall’efficienza con cui le macchine svalutano le stesse persone che stiamo cercando di aiutare.

WEBINAR
15 Dicembre 2021 - 14:30
Spesa IT: come valutare i costi tecnologici, calcolare i rischi e ottimizzare gli investimenti?
Amministrazione/Finanza/Controllo
Finanza/Assicurazioni
@RIPRODUZIONE RISERVATA

Articolo 1 di 4