Intelligenza artificiale e tutela dei consumatori: i sei punti da cui partire

La Strategia italiana per l’Intelligenza artificiale riserva una attenzione particolare alla salvaguardia dei diritti e degli interessi dei consumatori: lo si evince dal documento di proposta che il Ministero dello Sviluppo Economico ha pubblicato la scorsa settimana.

Chi scrive ha fatto parte del gruppo di trenta esperti selezionati dal MISE per la sua stesura: un percorso lungo e accidentato, con un cambio di Governo e di maggioranza nel mezzo e una pandemia nella fase finale, tanto per non farsi mancare nulla.

Le osservazioni che seguono saranno dunque inevitabilmente partigiane, sia pur nel conforto offerto dal lusinghiero giudizio espresso da The Brookings Institution, think tank statunitense, che ha valutato la strategia italiana come la più completa e con maggiore ampiezza di visione a livello mondiale.

La stesura del documento e lo scoppio della pandemia

Le proposte contenute nel documento sono state elaborate nella prima metà del 2019, in seguito sottoposte a consultazione pubblica tra la fine di agosto e la metà di settembre del 2019 e, infine, riviste e aggiornate nel mese di febbraio 2020.

Sebbene esse non tengano pertanto conto dell’impatto della pandemia, gli effetti dirompenti che il Covid-19 ha avuto sulle nostre vite e, più in generale, sulla tenuta della nostra società ne rendono ancora più rilevante la portata, considerato il contributo che l’AI e le tecnologie ad essa collegate (come il 5G, la blockchain e l’Internet delle Cose) possono e debbono fornire per una ricostruzione dell’economia del nostro Paese che sia più sostenibile, così come per una trasformazione della nostra Pubblica Amministrazione in termini di maggiore efficienza e trasparenza.

Appare in tale ottica quanto mai opportuno sottolineare come la Strategia italiana per l’AI riservi una attenzione particolare alla salvaguardia dei diritti e degli interessi dei consumatori sotto un duplice aspetto. Da una parte, nella ricerca di un solido quadro giuridico che li garantisca da nuovi abusi o manipolazioni eventualmente perpetrabili attraverso applicazioni di intelligenza artificiale. Dall’altra, per converso, nello stimolare imprese e sviluppatori a mettere un’accento su quelle applicazioni di AI che possano comportare benefici tangibili agli utenti finali, ai cittadini e alla nostra società in generale.

Senza un’ampia e diffusa fiducia l’intelligenza artificiale non potrà mai raggiungere il suo pieno potenziale e allora, come si legge nel documento: “un approccio antropocentrico all’intelligenza artificiale non può prescindere dalla tutela dell’individuo in quanto consumatore e utente”, e ancora “È importante, in ottica antropocentrica, che gli utenti vengano tutelati nel loro diritto a una spiegazione comprensibile ogni qual volta un sistema di AI prenda decisioni con forte impatto sulla sfera personale”.

I sei aspetti che meritano attenzione

Tali dichiarazioni di principio non rimangono peraltro scevre dal tradursi, nella parte terza del documento, in raccomandazioni di policy specifiche per dare una concreta implementazione alla strategia e, per quanto concerne la tutela dei consumatori, ci sono sei aspetti meritevoli di attenzione:

• Il tema della responsabilità civile per i danni causati da sistemi di intelligenza artificiale: è fondamentale immaginare un regime di responsabilità che tuteli il consumatore-utente ma non crei condizioni disincentivanti alla diffusione su larga scala di tali sistemi. Da questo punto di vista l’introduzione di un regime di assicurazione obbligatorio, come già avviene per le automobili, cui affiancare un fondo nazionale che subentri in caso di assenza di copertura assicurativa e/o difficoltà di attribuzione della responsabilità, può rappresentare una soluzione valida. A tal fine, nel documento si raccomanda l’istituzione di un tavolo congiunto tra compagnie assicurative e associazioni dei consumatori per l’elaborazione di apposite linee guida;
• Il potenziamento e l’istituzionalizzazione della “nudge unit” italiana, soprattutto rispetto allo studio del comportamento del consumatore online, rendendola parte integrante della futura cabina di regia interministeriale che dovrà coordinare, tra l’altro, le politiche per la qualità della regolazione;
• Il contrasto di nuove forme di pubblicità ingannevole o, in generale, di azioni poste in essere da sistemi di intelligenza artificiale, in quanto tali più difficili da percepire da parte del consumatore-utente (basti pensare, alle discriminazioni di prezzo che possono essere effettuate su base individuale, con una precisione, in passato, inimmaginabile): è urgente, allora, la predisposizione di una nuova fattispecie ad hoc nella lista nera delle pratiche commerciali scorrette;
• La predisposizione di un piano d’azione per i consumatori di AI: come diretta conseguenza di quanto indicato al punto precedente (ed in linea con quanto si sta facendo a Bruxelles), l’adeguamento del quadro di protezione dei consumatori alla nuova realtà di mercato dovrebbe rappresentare una priorità politica del Governo in chiave competitiva e di sviluppo sostenibile;
• L’intelligenza artificiale nella fase precontenziosa: occorre incentivare lo sviluppo da parte di imprese (o organizzazioni di imprese) e organizzazioni di consumatori di meccanismi evoluti di composizione stragiudiziale delle controversie basati su tecnologia AI che, prendendo le mosse dall’attuale disciplina delle pratiche commerciali scorrette, rendano più dinamica ed efficiente la sinergia public/private enforcement dei diritti di cittadini e consumatori, garantendo risarcimenti semiautomatici in caso di danni;
• Il contrasto della concentrazione dei dati: Infine, per tutelare gli interessi economici dei consumatori-utenti, sarà sempre più importante contrastare la concentrazione dei dati nelle mani di poche aziende private (cosiddetto data hoarding), in modo che aziende concorrenti possano fornire prodotti e servizi innovativi ai consumatori.

Il documento, ovviamente, è lungo e complesso e si sviluppa su ulteriori molteplici direttrici che, in questa sede, non è possibile descrivere: l’augurio è che il Governo da esso sappia e voglia trarre ispirazione per le politiche sull’innovazione che andrà a comporre nei prossimi mesi. Al piano abbiamo allegato un prospetto delle risorse minime che occorre investire: ci è sembrata una scelta di serietà e di onestà intellettuale. L’innovazione a costo zero esiste solo in alcune norme, che non a caso rimangono puntualmente disattese.