la riflessione

I chatbot intelligenti non faranno finire il mondo, ma serve controllo

Una delle caratteristiche dell’intelligenza umana è la discrezionalità, ed è una caratteristica desiderabile per la realizzazione di sistemi autonomi. Pensiamoci: se un’aspirapolvere robot molto intelligente decidesse di eliminare il nostro gatto, aspirandolo, nel nome della pulizia, unica ragione di esistenza?

Pubblicato il 25 mag 2023

Antonio Cisternino

Università di Pisa

Si parla molto dei rischi che l’intelligenza artificiale pone alla nostra stessa esistenza, ma allo stesso tempo continuiamo a svilupparla, cercando di tenerne sotto controllo comportamenti indesiderati. Sono passati sette anni da quando Microsoft ritirò il chatbot Tay perché insultava e diceva volgarità a tutti i suoi interlocutori: si trattava di un esperimento di un chatbot che apprendeva dall’interazione con le persone, aveva semplicemente appreso i comportamenti sbagliati fino a divenire non solo inutile, ma anche potenzialmente dannoso nei confronti delle fasce più deboli dei navigatori.

@RIPRODUZIONE RISERVATA