Errori e pregiudizi nell’AI: dove nascono e come si propagano

I sistemi di intelligenza artificiale sono presentati spesso come strumenti oggettivi, liberi dai condizionamenti soggettivi che affliggono il giudizio umano. Questa narrativa è profondamente fuorviante. Un sistema di apprendimento automatico non produce verità: produce inferenze statistiche apprese da dati storici, attraverso architetture che incorporano scelte progettuali cariche di assunzioni implicite. Errore e pregiudizio non sono anomalie correggibili a margine — sono proprietà strutturali di qualsiasi sistema che apprende dal mondo così com’è, non come dovrebbe essere.