gli studi

Bias dell’IA: origini, impatti, strategie per mitigarli

Lo studio dei bias nei sistemi di NLP evidenzia una crescente preoccupazione per i pericoli dei Large Language Models. La ricerca, caratterizzata da eterogeneità, esplora bias rappresentazionali e allocativi nei dataset e modelli, con focus su stereotipi e sottorappresentazione

Pubblicato il 2 apr 2024

Marco Antonio Stranisci

Università degli Studi di Torino

Aggiungi tra i preferiti su Google

Lo studio dei bias nei sistemi di Natural Language Processing (NLP) e nei dataset utilizzati per addestrarli e valutarli è un settore di ricerca in grande crescita, soprattutto in riferimento all’analisi dei potenziali pericoli prodotti dai Large Language Models (LLM). Questi lavori sono tuttavia caratterizzati da una profonda eterogeneità, che rende difficile definire in maniera precisa che cosa si intenda per bias quando lo si applica in ambito NLP. Passiamo allora in rassegna alcuni dei lavori più citati su questo argomento, organizzandoli per temi.

@RIPRODUZIONE RISERVATA