Questo sito web utilizza cookie tecnici e, previo Suo consenso, cookie di profilazione, nostri e di terze parti. Chiudendo questo banner, scorrendo questa pagina o cliccando qualunque suo elemento acconsente all'uso dei cookie. Leggi la nostra Cookie Policy per esteso.OK

domotica

L’intelligenza artificiale che ci spia a casa: quali rischi e soluzioni per la privacy

Si moltiplicano gli assistenti digitali a casa, come Google Home e Amazon Eco. Che ascoltano sempre tutto. Il prossimo passo saranno gli elettrodomestici che vedono sempre tutto. Mentre il consumatore non è consapevole di niente. Il Gdpr può offrire però qualche via d’uscita al dilemma

04 Apr 2018

Franco Pizzetti

professore ordinario di Diritto Costituzionale - Facoltà di Giurisprudenza Università di Torino


Si vanno moltiplicando strumenti che hanno l’aspetto di vasi moderni vasi da arredamento, o di piccole scatole porta pastiglie o dischetti da hockey che vengono proposti dalle grandi multinazionali impegnate nello sviluppo dell’Intelligenza Artificiale applicata anche alla domotica, per incentivare i rapporti tra persone e macchine dotate di intelligenza artificiale, compresa la conversazione interpersonale, specialmente avendo attenzione alle persone sole.

Di recente sono state rese disponibili anche in Italia almeno due innovazioni molti importanti che vanno su questa strada.

Amazon Echo e Google Home

La prima è stata Echo di Amazon, grande come un dischetto da hockey o come un portapastiglie, a seconda dei gusti. Si tratta essenzialmente di una chatbot: un robot capace di chattare con le persone, pubblicizzato come una presenza dialogante a comando, in grado cioè di intrattenere una conversazione, o comunque di dare risposte coerenti, quando una persona cominci a dialogare con l’apparecchio.

Un modo per superare la solitudine o avere una compagnia costante. L’apparecchio però è anche utilizzabile come assistente digitale “intelligente”, ed già predisposto per governare le apparecchiature domestiche soprattutto man mano che si sviluppi la connessione via Internet tra queste (la c.d. IoT). Intanto offre play list musicali e anche collegamenti radio o forme semplificate di domotica come l’accensione o spegnimento delle luci e altre forme di connessione con i singoli apparecchi domestici.

Dal 27 marzo anche Google, offrendo nella versione italiana sia Google Home che Google Home mini, è entrata pesantemente in questo mercato, ed è facile prevedere che rapidamente dilagherà nelle nostre case.

Google Home appare come un vaso moderno, con base circolare e forma conica che termina con una sezione diagonale. Google Home mini assomiglia di più a Echo di Amazon, anche se ha una forma più aggraziata ed è più simile a una scatoletta simile una bomboniera.

La differenza tra le due apparecchiature Google è di gusto, di costo, ma non di funzioni.

Entrambi vengono presentati come smart speaker, definizione linguistica meno suggestiva, ma anche meno inquietante, di Assistente Intelligente o “domotico”.

Entrambi prevedono l’attivazione vocale da parte delle persone secondo la modalità “Ok Google”, e dopo tale passaggio consentono all’utente di chiedere con comandi vocali di conoscere le previsioni metereologiche, riprodurre musica, collegarsi con le trasmissioni radio. È anche possibile usare Google Home o Google mini per connettersi con dispositivi casalinghi dotati di connessione e assicurarne il funzionamento. L’esempio classico è l’accensione e lo spegnimento delle luci o, nel caso di Google Home, anche la riproduzione di Netflix sulla smart TV.

Naturalmente, come anche per Echo di Amazon, la gamma dei servizi già disponibili o che lo saranno in futuro, è molto ampia e destinata ad aumentare. Già ora può giungere alla lettura delle mail e dei messaggi inviati attraverso alcune forme di messaggeria on line.

Fortunatamente, e ovviamente, occorre la concessione delle autorizzazioni e dei relativi account da parte di chi voglia fare uso di queste applicazioni, ma è ragionevole pensare che la maggior parte degli utenti sarà ben lieta di darle per avere servizi che fanno apparire non solo l’oggetto ma anche, e molto di più, gli abitanti della casa e la casa stessa, all’avanguardia della capacità di essere “smart”.

I rischi per la privacy

Quello che forse non tutti capiranno, o capiranno forse troppo tardi, è che il rapporto vocale tra le persone e l’apparecchio è possibile perché l’apparecchio è dotato della capacità di ascolto di tutto ciò che accade nell’ambiente e non solo del comando vocale che di volta in volta gli possa essere impartito.

Inoltre esso è continuamente in attività e dunque in grado di ascoltare ed elaborare i suoni che percepisce nell’ambiente (e anche, attraverso i rumori i comportamenti di chi li produce), indipendentemente dal fatto che venga attivato attraverso comandi specifici.

È vero che nella versione Google Home e Google Home mini è presente anche un interruttore che dovrebbe consentire di interrompere la funzione microfono, e quindi anche la capacità di ascolto dell’apparato, ma ovviamente questo significa rinunciare, per il tempo dello spegnimento, a ogni funzionalità dell’apparato stesso.

Va tenuto inoltre presente che l’apparecchio, esattamente come gli smartphone, resta comunque sempre in collegamento con il sistema Google e con gli apparecchi delle casa ai quali è stato connesso. Il che significa che, esattamente come accade per gli smartphone, anche quando non viene usato esso trasmette in continuazione ogni rumore o altro fenomeno che è in grado di percepire anche grazie al fatto di essere interconnesso con gli altri apparecchi alla piattaforma che ne assicura il funzionamento. E potremmo anche cominciare a chiederci se non dovrà diventare un nuovo obbligo di etichetta, da padroni di casa, avvisare i nostri ospiti, che pure forse avrebbero diritto a sapere: “attenti, il cloud ci ascolta”.

Insomma, queste nuove forme di Assistenti Intelligenti studiati per la casa possono anche essere definiti, se si vuole, come i moderni maggiordomi dell’era digitale, ma, esattamente come i maggiordomi vittoriani, sanno tutto di ciò che accade nella casa e tutto registrano e ritrasmettono.

Come per gli smartphone, l’uso di questi oggetti comporta la disponibilità a cedere a chi gestisce le loro piattaforme, i propri dati comportamentali (compresi quelli di inconsapevoli ospiti), e tutte le informazioni relative a ciò che accade in casa che siano percepibili attraverso i suoni o le connessioni con gli apparecchi domestici.

Non è difficile, peraltro, immaginare che presto saranno messi sul mercato anche nuovi modelli in grado anche di “vedere”, attraverso sensori video e foto, tutto ciò che è visibile dal punto nel quale saranno collocati nelle case, mentre in un futuro (che in certi Paesi è già oggi) potranno vedere anche attraverso gli apparecchi con i quali saranno connessi, la smart tv in primis.

Del resto, almeno per gli smartphone più recenti, sia la registrazione di immagini che di suoni può avvenire già oggi da remoto, anche senza alcuna consapevolezza da parte dell’utente. È sufficiente che sia data la autorizzazione a utilizzare il microfono e la funzione foto, per consentire a molte applicazioni quello che già oggi è il “core businness” non solo dei social ma anche degli smartphone, e di chi li produce e mette in vendita.

Il che peraltro non significa che questo avvenga sempre per “spiare” i singoli utenti e i loro comportamenti, salvo i casi, certo tuttora non marginali, di profilazione a fini commerciali.

Molto più importante, infatti, è raccogliere informazioni su comportamenti di massa, che consentano di profilare, anche con forme di anonimizzazione dei dati, i gruppi sociali e le comunità. Aspetti questi ogni giorno più importanti per sviluppare forme di data analysis finalizzate agli scopi più doversi.

Macchine fotografiche smartphone e privacy

Forse pochi si sono chiesti perché da due o tre anni gli smartphone competano tra loro per numero di macchine fotografiche presenti sull’apparecchio e per qualità delle foto e video registrabili, fin a giungere ai recentissimi modelli che offrono addirittura tre fotocamere.

Il fatto è che quasi sempre non si riflette adeguatamente in modo sistemico e dunque è comprensibile che molti pensino che tre macchine fotografiche sullo stesso smartphone siano un arricchimento delle prestazioni dell’apparecchio, finalizzato a consentirne una migliore utilizzazione da parte di chi lo acquista. Basterebbe chiedersi chi mai fa in uno stesso momento tre fotografie con tre macchine diverse, o quanti sanno scegliere quale delle tre macchine usare e quando, per porsi la domanda di fondo: queste innovazioni servono a me consumatore o al produttore, o ad altri? E se servono al produttore sono solo utili a battere la concorrenza e giustificare il costo dell’apparecchio o hanno altre finalità?

Se ci si fanno queste domande è facile ipotizzare che la molteplicità di camere fotografiche servano non solo per acquisire immagini da remoto ma per acquisirle in modalità bi o tridimensionali. Cosa essenziale per migliorare la capacità di apprendimento delle macchine.

Come i bambini imparano non solo guardando o ascoltando, ma anche misurando i volumi e le distanze, come anche il machine learning ha bisogno di foto o video multidimensionali che siano capaci di fornire anche le dimensioni e i volumi degli oggetti ripresi.

Se poi, di fronte alla recente possibilità che una delle tre macchine poste sullo smartphone sia capace di fotografare anche al buio, ci chiedessimo a chi mai questo può interessare come uso normale del telefonino (salvo i guardoni, si intende) forse capiremmo che una macchina in grado di fotografare al buio ben di rado è davvero utile all’utente, ma certo è molto più utile a chi voglia da remoto poter misurare la capacità delle macchine di individuare le cose e le sagome anche in condizioni di luce proibitive.

In fondo nulla assicura che una macchina a guida automatica, tanto per fare un esempio, non si trovi a dover operare in condizioni di luce proibitive, o che altri oggetti intelligenti abbiano come missione anche quella di saper “vedere nel buio”.

Insomma, dagli smartphone con fotocamere multiple agli Assistenti digitali intelligenti per la casa, tutto fa capire che la tecnologia è in continuo movimento e che per il suo sviluppo è vitale la capacità di conoscere sempre più a fondo l’essere umano, le sua abitudini e i suoi comportamenti.

Per servirci meglio, si dice, e per offrirci servizi sempre di maggiore qualità e utilità. Ma anche il lupo di Cappuccetto rosso diceva alla bambina: “avvicinati, piccola, che possa vederti meglio…”

La tecnologia ci offre grandi opportunità e non va temuta né impedita, ma governata e conosciuta sì.

Per questo è bene che chiunque faccia uso di questi strumenti sia il più informato possibile e il più possibile capace di capire da solo i lati positivi e quelli negativi, le luci e le ombre di ogni apparecchio che si mette in tasca o in casa.
Per questo lo scopo fondamentale del nuovo GDPR è, da un lato, il dovere del titolare di minimizzare i rischi e, dall’altro, quello di informare in modo chiaro e intellegibile l’interessato dell’uso e delle finalità dei trattamenti fatti usando i suoi dati.

Per questo occorre una visione e una lettura proattiva e non burocratica del nuovo GDPR, che entrerà in vigore il 25 maggio.

Una visione già aperta all’Intelligenza artificiale, alla IoT e alla catena dei trattamenti, compiuti spesso da titolari diversi, che l’uso di queste tecnologie comporta.

Per questo, infine, insieme ad altri amici, ho scritto il libro, appena pubblicato da Giappichelli, dal titolo “Intelligenza artificiale, protezione dei dati personali e regolazione”.

Un piccolo contributo alla conoscenza della realtà che ci circonda e che, se non capota e non dominata, mette a rischio la nostra stessa Humanitas.

Articoli correlati