Decisioni dell’AI: la sovranità che le imprese devono costruire

Immaginiamo un caso tutt’altro che futuristico: un’azienda manifatturiera usa un agente AI per selezionare in autonomia i fornitori di un componente, confrontando prezzi, tempi di consegna e certificazioni di qualità raccolte da più partner della filiera. L’agente sceglie, ordina, e il flusso prosegue. Tutto funziona finché nessuno chiede conto della scelta. Ma se un fornitore scartato contesta la decisione, o se il componente acquistato risulta non conforme, chi in azienda è in grado di ricostruire su quali dati si sia basato l’agente, sotto quale mandato ha negoziato, e se ha rispettato le condizioni concordate con i partner coinvolti? Nella maggior parte dei casi, oggi, la risposta è: nessuno con certezza.