Questo sito web utilizza cookie tecnici e, previo Suo consenso, cookie di profilazione, nostri e di terze parti. Chiudendo questo banner, scorrendo questa pagina o cliccando qualunque suo elemento acconsente all'uso dei cookie. Leggi la nostra Cookie Policy per esteso.OK

privacy

Smart speaker, tutti i rischi privacy dell’intelligenza artificiale (e possibili soluzioni)

Gli smart speaker abilitano una profilazione molto più profonda e dettagliata rispetto a quanto già avveniva con l’uso di Internet e dai vari social network e consegnano ancora più dati nelle mani di aziende già monopoliste in questo ambito. Ecco come funzionano, quali sono i rischi e nuovi approcci possibili al problema

08 Lug 2019

Gli smart speaker dotati di assistente vocale, sempre più diffusi nelle nostre case, raccolgono molti più dati rispetto ad un semplice motore di ricerca internet e li mettono a disposizione di aziende che sul nostro conto possiedono già una mole enorme di informazioni (pensiamo a Google e Amazon). Le conseguenze potrebbero essere molto gravi, fino alla scomparsa della privacy.

Se, dunque, da un lato non si possono non considerare i vantaggi della tecnologia, dall’altro occorre necessariamente approcciarsi a essa con consapevolezza delle possibilità, ma soprattutto dei rischi.

E, mentre all’Università di Stanford un gruppo di ricercatori ha ideato il sistema “Almond” per fornire una tutela mirata a chi utilizza tali dispositivi, sul versante normativo europeo c’è da registrare l’emanazione del Cybersecurity Act, che obbligherà le case produttrici a una certificazione per gli oggetti connessi con una serie di importanti paletti.

Cosa sono gli smart speaker e come funzionano

Nonostante i timori per la privacy e la sicurezza informatica, che approfondiremo di seguito, la diffusione di smart speaker ha ormai preso il sopravvento nella nostra quotidianità. Tali strumenti digitali rappresentano una novità sul mercato italiano: sono stati introdotti solo dal 2018 (Google Home è stato lanciato sul mercato italiano il 27 marzo 2018. Risale al 30 ottobre 2018, invece, il lancio di Amazon Echo) ma registrano un incessante sviluppo attraverso il perfezionamento e l’ampliamento delle loro funzioni. Solo pochi giorni fa, il 26 giugno, Amazon ha lanciato sul mercato italiano un nuovo dispositivo, Echo Show 5, il più economico tra gli smart speaker finora esistenti ed il primo ad essere munito di touch screen.

La peculiarità degli smart speaker rispetto a tutti gli altri dispositivi digitali già esistenti sul mercato è la presenza al loro interno di un’intelligenza artificiale che abilita la capacità di tali prodotti di imparare e adattarsi alle esigenze della singola persona: tramite meccanismi di machine learning, dunque, lo smart speaker riconosce il linguaggio e sfrutta meccanismi di autoapprendimento per diventare sempre più preciso al momento dell’ascolto, della comprensione e della risposta. Quest’ultima si concretizza nel fornire un’informazione o nell’accensione delle luci o del climatizzatore di casa, ed in tante altre attività. Possiamo pertanto affermare che questi dispositivi siano stati congegnati per imparare ma soprattutto ricordare ciò che a noi piace, quindi i nostri interessi, le nostre preferenze, ricollegando ciò che nel tempo ci interessa, ciò che gli chiediamo, come lo chiediamo, quanto tempo dedichiamo ad una certa ricerca e via dicendo.

Il mercato della domotica e le funzioni dei dispositivi smart home

Durante il 2018 il mercato della domotica in Italia ha raggiunto circa 380 milioni di euro, con un aumento del 52% rispetto al 2017. Tale crescita è dovuta principalmente al lancio nel nostro Paese dei dispositivi di A.I., quali Google Home e Amazon Echo. Questi ultimo hanno poi contribuito alla crescita delle vendite di altri dispositivi smart per la casa, cosiddetta Smart Home, legati all’energia, alla climatizzazione, alle luci e agli elettrodomestici (es. lavatrici, etc) Tra le funzioni principali dei dispositivi digitali ricordiamo: l’accensione, lo spegnimento e la regolazione delle luci, della temperatura e climatizzazione, la gestione di agende, sveglie, promemoria, timer, la diffusione di musica, l’apertura e chiusura di porte e finestre, di tende, l’effettuazione di acquisti on line, l’indicazione del percorso più veloce senza traffico da casa a lavoro, etc..

Smart speaker, privacy e sicurezza informatica

Occorre altresì ricordare come anche la tecnologia in esame debba attenersi alle regole e principi previsti dal Regolamento Europeo GDPR 679/2016 in materia di trattamento dei dati personali. Per quanto attiene la sicurezza informatica, invece, è stato emanato proprio in questi giorni il cosiddetti Cybersecurity Act, ossia il nuovo regolamento europeo che conferisce all’ENISA (agenzia comunitaria per la sicurezza informatica) la protezione degli utenti da violazioni privacy grazie all’introduzione di una certificazione per gli oggetti connessi. Quest’ultimo aspetto è di grande rilievo anche nel settore degli smart speaker dovendo le aziende produttrici attenersi al rispetto di tali nuove regole nel prossimo non lontano futuro.

La questione della privacy è indubbiamente molto importante e nel momento in cui scegliamo di avvalerci di assistenti digitali per comodità e per facilitare la nostra quotidianità occorre essere consapevoli di eventuali rischi connessi, ma soprattutto è necessario cercare la soluzione più adatta per proteggere i nostri dati. Di grande interesse risulta il contributo in materia di intelligenza artificiale dell’Autorità Garante per la Privacy, Antonello Soro, reso nell’ambito del comitato della Convenzione 108, secondo cui: “Innovazioni come quelle dello smart assistant determinano indubbi vantaggi nella vita quotidiana di ciascuno e vanno quindi, come tali, promosse. Tuttavia, proprio il flusso di dati che tali tecniche permettono, integrando tecnologie diverse, esigono garanzie adeguate tanto per gli utenti, quanto per la sicurezza dei dati e delle reti coinvolti in questi processi”.

“Tra le garanzie sancite dal Regolamento, le più rilevanti in questo contesto sono anzitutto l’incorporazione delle misure di protezione dati negli stessi sistemi e dispositivi, in modo che essi siano progettati e configurati in maniera da minimizzare l’uso di dati personali e proteggerli adeguatamente.”

Ed ancora molto interessante quando il Garante privacy afferma come “Queste misure compensano quel deficit di consapevolezza che abbiamo nell’utilizzare dispositivi intelligenti di uso quotidiano, la cui apparente innocuità ci induce a sottovalutarne la potenziale esposizione ad attacchi informatici o comunque la capacità di rivelare, tramite i dati raccolti, stili e tenore di vita, persino patologie o dipendenze” “ Inoltre, rispetto alla profilazione e al microtargeting che questi dispositivi possono incentivare, risultano determinanti il diritto di opposizione quello di contestare la decisione automatizzata, nonché di ottenere l’intervento umano nel processo decisionale”.

L’aspetto che giustifica la potenziale violazione della privacy è rappresentato dal verificarsi della situazione oramai conosciuta con l’espressione di “ascolto passivo”. Questi dispositivi, infatti, stanno sempre in ascolto e si attivano, o almeno dovrebbero attivarsi, solamente se viene pronunciata la parola chiave: “Ciao Alexa” o “Hey Google”. Anche laddove l’ascolto attivo avvenga solo al riconoscimento della parola di attivazione ogni frase simile a quest’ultima può far partire la registrazione o funzioni non volute.

I rischi divenuti realtà e le novità in tema sicurezza

Detti dispositivi configurano un microfono collegato ad Internet, che può ascoltare tutte le conversazioni che avvengono in casa o al lavoro. Vi è l’opinione diffusa che al fine di migliorarne la precisione tutte le conversazioni vengono registrate. In Amazon, ad esempio, vi sarebbero migliaia di dipendenti che ogni giorno ascoltano tali conversazioni nel tentativo di rendere, in questo caso, Alexa, più intelligente e sempre più performante. E qualche giorno fa ha ammesso di conservare le registrazioni per tempo indefinito. 

Preme sottolineare come Google ed Amazon abbiano lanciato sul mercato tali dispositivi digitali a prezzi davvero irrisori, al chiaro fine di creare un businnes che va al di là della mera vendita del singolo dispositivo. Ebbene, la capacità di costituire un Hub di vari dispositivi domotici, finora incapaci di comunicare tra loro, è un grande obiettivo per le grandi società di high tech. Ovviamente i dispositivi sono configurati in modo da interagire esclusivamente con altri programmi legati al medesimo produttore poiché lo scopo è quello di fidelizzare il consumatore al singolo prodotto e ai servizi ad esso connessi. A fondamento di tale business vi è uno dei rischi cui siamo esposti con l’utilizzo degli smart speaker, ossia, la profilazione: più profonda e dettagliata rispetto a quanto già avveniva con l’uso di Internet e dai vari social network.

Tra i vari casi accertati di violazione privacy basti pensare all’episodio della coppia di Portland o al signore tedesco che su richiesta ha ricevuto da Google le registrazioni di altro utente. Notizia recente è altresì l’accusa mossa ad Amazon con riferimento al dispositivo Echo Dot Kids Edition, la versione per ragazzi di Alexa, per imparare e divertirsi con la possibilità di controllo da parte dei genitori. Amazon adesso è stata denunciata da alcune associazioni per la tutela della privacy dei minori proprio per la illecita conservazione di dati tratti dalle conversazioni dei bambini nel cloud, nonostante le richieste di cancellazione dei genitori.

In merito appunto alla cancellazione delle conversazioni registrate, osserviamo che, nonostante vi sia la possibilità di cancellare la cronologia delle conversazioni registrate o di disattivare il microfono, le grandi compagnie sono corse ai ripari. Ad esempio, Amazon sta rendendo più facile alle persone eliminare le registrazioni di Alexa sia attraverso specifici comandi vocali sia attraverso Alexa Privacy Hub, un modo per imparare ad utilizzare Alexa e trovare i controlli sulla privacy.

Oltre al profilo del diritto alla cancellazione delle conversazioni, è evidente come i dispositivi di AI presentino molteplici problematiche da affrontare. Ad esempio, ci chiediamo che cosa accade se un dispositivo del genere viene violato da remoto. Ed ancora, cosa succede se la domotica non segue più i nostri comandi ma quelli di uno sconosciuto. A queste e a tante altre domande è difficile rispondere.

Il sistema “Almond”: assistente vocale rispettoso della privacy

Nell’ottica della necessità di una tutela rafforzata dell’individuo che si avvale di tali dispositivi, lo scorso mese, la National Science Foundation ha messo a disposizione ben 3 milioni di dollari ad un gruppo di ricercatori informatici dell’Università di Stanford, guidato da Monica Lam, una progettista di sistemi informatici. La sovvenzione ha come obiettivo la creazione di un servizio smart speaker che rispetti la privacy, grazie a un approccio decentralizzato sull’informazioni.

Il sistema progettato dal gruppo di ricercatori di Stanford ha il simpatico nome di “Mandorla”, “Almond”, ed è ideato per fornire una tutela mirata agli individui ed alle società che utilizzano tali dispositivi. Si vuole evitare la cessione indiscriminata di dati personali. Si vuole ottenere un grado di indipendenza rispetto alle grandi società tecnologiche decentralizzando il software dell’assistente virtuale e collegandolo a modelli di programmazione che rendano consapevole il consumatore in merito all’archiviazione e alla condivisione delle sue informazioni personali.

Tramite una piattaforma cosiddetta Thingpedia (sulla falsariga di Wikipedia) il gruppo di ricercatori sta cercando di spingere i produttori di beni di consumo a connettere il loro dispositivi ad Almond. Thingpedia è una sorta di piattaforma di condivisione sulla quale ciascun produttore specifica in che modo il suo prodotto o servizio interagisce con l’assiste virtuale Almond.

E che possa quindi servire da punto di riferimento per tutti quei sistemi che utilizzano il linguaggio umano per monitorare computer, cellulari e dispositivi connessi ad Internet nelle case e negli uffici. La prima versione del sistema uscirà quest’anno.

II senso della ricerca di Stanford è quello di mettere in guardia, e, dunque, prevenire, le conseguenze di una corsa al controllo degli assistenti digitali da parte di grandi società.

Secondo i ricercatori, gli assistenti digitali, così come sono ideati oggi, potrebbero avere un impatto più grande sulle informazioni dei consumatori rispetto a quelle acquisite finora tramite siti web e app. Pertanto, la preoccupazione maggiore è il pericolo della esistenza di società che godono del monopolio di dati raccolti tramite questi dispositivi. Mettere queste informazioni nelle mani di una grande azienda o di una piccola cerchia di soggetti potrebbe essere molto grave e tale da far scomparire il concetto di privacy. Gli assistenti digitali, difatti, raccolgono molti più dati rispetto ad un semplice motore di ricerca. L’assistente digitale appare come un soggetto capace di aver accesso alla sfera più intima dei consumatori, al pari, appunto, di un maggiordomo.

Consapevolezza e prevenzione dei rischi connessi agli smart speaker

Il dato personale ha un valore assoluto. Di fronte a queste nuove tecnologie diviene allora imprescindibile tenere un approccio che ha una duplice faccia: di consapevolezza, rispetto alle potenziali capacità e di prevenzione, rispetto ai rischi connessi. L’incessante sviluppo delle tecnologie deve essere visto con positività; tali nuovi strumenti ci accompagnano oramai quasi ovunque: si parla diffusamente di smart home, smart citiy, per citare solo alcuni settori. La comodità di cui si connotano è invidiabile, perché ci agevolano in ogni situazione: come se fossimo davvero in presenza di un’altra persona in carne ed ossa.

Tuttavia, è proprio questo l’aspetto inquietante che ci deve mettere in guardia e far riflettere. Se davvero le nostre conversazioni sono costantemente registrate ed ascoltate è come se fossimo in presenza ed osservati da una persona a noi sconosciuta (e sfido chiunque dal volere una situazione del genere). In conclusione, imprescindibile un atteggiamento di protezione dei nostri dati personali, anche da parte delle stesse grandi società produttrici. Occorre un approccio diretto a prevenire eventuali rischi per la nostra privacy. Utilizzando le parole del Garante per la privacy, Antonello Soro, occorre approcciarsi a tali strumenti con la massima consapevolezza delle potenzialità ma soprattutto dei rischi connessi al loro utilizzo, e l’adozione delle precauzioni opportune. È impensabile non guardare alla tecnologia come un vantaggio, di cui avvalersi. Tuttavia, ad essa occorre approcciarsi con intelligenza e tanta diffidenza.

@RIPRODUZIONE RISERVATA

Articolo 1 di 3