AI in tribunale: il controllo umano è sempre necessario

Ogni caso giudiziario relativo ad errori dell’IA che siano bias o allucinazioni si riconduce ad una unica condotta omissiva: l’assenza di controllo umano. Una tale assenza può manifestarsi non solo in relazione all’input, con il rischio che l’IA operi sulla base di elementi non tanto sbagliati quanto verosimili ma non veritieri e non rappresentativi, ma anche, e soprattutto, in relazione all’output, con il rischio di decisioni fondate su precedenti inesistenti, creati dall’IA dal nulla o i cui contenuti sono totalmente diversi da quelli reali, risultando adattati, o meglio, stravolti per incontrare le esigenze dell’ideatore del prompt.