Robot in casa: chi vede e ascolta davvero quello che facciamo?

NEO di 1X Technologies è alto poco meno di un metro e settanta, pesa una trentina di chili, si può ordinare a ventimila dollari o in abbonamento, e le prime consegne sono già attese negli Stati Uniti. È tra i primi umanoidi domestici ad arrivare con un prezzo di listino e un calendario di consegne dichiarato, e già questo basterebbe a farne una notizia.

La parte che mi interessa davvero, però, è un’altra, ed è quella che l’azienda non ha nascosto. Chi compra oggi non compra soltanto un robot, diventa anche un fornitore di materiale di addestramento, e il fondatore Bernt Børnich lo ha detto senza giri di parole al Wall Street Journal, spiegando che senza i dati degli utenti il prodotto non può migliorare.

NEO e la privacy dei robot domestici in teleoperazione

C’è di più, ed è la parte che nella cronaca è passata quasi come un dettaglio tecnico. NEO, per ora, non fa tutto da solo. Per i compiti più complessi interviene un teleoperatore umano che prende il controllo da remoto e guarda dentro casa attraverso gli occhi del robot, su appuntamento fissato dal proprietario.

L’azienda ha previsto contromisure, dalla sfocatura dei volti alle zone della casa dichiarate off limits, e sostiene che nessun operatore possa entrare senza il via libera di chi abita lì. Sono misure serie e vanno riconosciute come tali. Restano però impostazioni, cioè qualcosa che qualcuno deve configurare, capire e mantenere nel tempo, in una casa dove vivono anche persone che quelle impostazioni non le hanno scelte.

La sicurezza informatica del dispositivo è un capitolo a parte e ha i suoi specialisti. Quello che mi interessa qui è una cosa più semplice e più grande, ovvero che stiamo per introdurre nello spazio domestico un oggetto che si muove, vede, ascolta e impara, e lo stiamo facendo con la stessa leggerezza con cui abbiamo accolto tutto il resto.

Poi certo, resta anche l’altra questione, quella che ormai dovremmo aver imparato dopo trent’anni di oggetti collegati alla rete. Tutto ciò che è connesso, prima o poi, può essere bucato da qualcuno. Non perché chi lo progetta lavori male o abbia trascurato la sicurezza, ma perché è la condizione stessa di ciò che sta in rete, e vale per una centrale elettrica come per una lampadina intelligente.

Perché un robot domestico cambia categoria rispetto agli oggetti connessi

Vale la pena capire perché un umanoide non appartiene alla stessa categoria degli oggetti connessi che abbiamo già in casa. Uno smartphone raccoglie moltissimo, ma sta in tasca e lo posiamo. Un assistente vocale ascolta, però resta fermo su una mensola. Una telecamera di sorveglianza inquadra un punto solo.

Un robot domestico cammina, e spostandosi attraversa le stanze, apre le porte, entra in cucina mentre si litiga e in camera mentre si dorme, ricostruisce la planimetria dell’abitazione e la incrocia con gli orari, le abitudini, le presenze e le assenze di chi ci vive. Non è una differenza di grado. È un salto di categoria che stiamo trattando come un aggiornamento di prodotto.

Dati domestici, sensori e precedenti già visibili

E questo è soltanto il punto di partenza, perché i sensori si moltiplicano a ogni generazione. Un robot domestico parte con telecamere, microfoni e sensori di profondità, ma nelle versioni successive potranno arrivare rilevatori termici, chimici, di qualità dell’aria e altri che oggi non sappiamo nemmeno immaginare.

Ognuno avrà una buona ragione per esserci e renderà la macchina più utile, e ognuno produrrà un flusso di dati che da qualche parte sarà stoccato. Sommandoli si ottiene una descrizione della vita domestica che nessun questionario riuscirebbe mai a ottenere e forse non abbiamo mai visto prima.

Il precedente dei robot aspirapolvere

Chi pensa che sia uno scenario da futuro remoto dovrebbe guardare cosa è già successo con oggetti molto meno sofisticati. Alla fine del 2022 un’inchiesta di MIT Technology Review ha ricostruito come alcune immagini riprese dentro le case da robot aspirapolvere, comprese scene evidentemente private, fossero circolate in gruppi social chiusi un paio d’anni prima, condivise dai lavoratori incaricati di etichettare quel materiale per l’addestramento degli algoritmi.

Si trattava di esemplari di preproduzione affidati a collaudatori che avevano firmato un accordo, quindi non di apparecchi comprati al supermercato, e questo attenua la vicenda soltanto in apparenza. Non era un attacco informatico, era la filiera dei dati che funzionava come previsto, con dentro degli esseri umani sottopagati e sparsi per il mondo.

Qualche anno dopo, in Australia, l’emittente pubblica ABC ha documentato un episodio che mostra quanto sia sottile il confine tra la questione dei dati e quella della vulnerabilità tecnica, ricostruendo come dei ricercatori indipendenti fossero riusciti a prendere il controllo da remoto di un comunissimo aspirapolvere connesso, arrivando alla telecamera, al microfono e all’altoparlante installati dentro una casa privata.

Il salto dell’umanoide in casa

Parliamo di macchine che strisciano sul pavimento e non hanno braccia, occhi all’altezza del viso o la capacità di seguirti da una stanza all’altra. Un umanoide raccoglie ordini di grandezza in più, e lo fa restando in piedi accanto a noi.

Emozioni e fragilità familiari dentro l’archivio dei robot

Il punto che mi sembra meno calcolato di tutti, però, non riguarda le planimetrie e nemmeno le immagini. Riguarda le emozioni. Un sistema costruito per convivere con una famiglia non impara solo dove si trova il divano, impara i ritmi delle persone, riconosce i toni di voce, distingue chi parla per primo e chi resta in disparte, associa comportamenti a momenti della giornata. Tutto questo diventa materiale, e il materiale diventa addestramento.

È qui che il Sentimento Sintetico si rovescia. Di solito lo raccontiamo in una direzione sola, come l’affetto che finiamo per provare verso una macchina che ci risponde bene, e già quella è una faccenda seria. La direzione opposta se ne sta in silenzio e viene raccontata di rado, perché i sentimenti veri di chi abita quella casa, la stanchezza, l’irritazione, la tenerezza, la paura, diventano dati utili a un’azienda che sta a migliaia di chilometri di distanza.

Li regaliamo senza saperlo, perché nessuno ci ha spiegato per bene che li stavamo dando, magari perché la casella era già spuntata da qualche parte dentro un’informativa.

Quando la privacy domestica diventa un rischio aziendale

Lo scenario cambia ancora quando la casa non è una casa qualsiasi. Un dirigente d’azienda, un imprenditore, un professionista che tratta materia sensibile, un amministratore pubblico portano a casa il proprio lavoro molto più spesso di quanto ammettano. Una videochiamata riservata fatta in salotto, uno schermo lasciato acceso, documenti sul tavolo della cucina, una conversazione telefonica mentre si prepara la cena.

Se in quella stanza si muove un dispositivo con telecamere e microfoni, connesso a un’infrastruttura esterna e in certi momenti pilotato da un operatore remoto, la privacy domestica smette di essere una questione personale e diventa un problema aziendale, in qualche caso perfino industriale. Forse nessuno lo classificherà come incidente di sicurezza, perché formalmente non lo sembra. È solo un elettrodomestico che ha fatto quello per cui è stato costruito.

C’è poi il capitolo di cui mi sono già occupato su queste pagine, quando ho provato a dare un nome alla possibilità che un robot domestico apprenda i pattern coercitivi presenti in una casa e finisca per riprodurli, quella che ho chiamato Violenza Domestica Sintetica.

Allora il ragionamento riguardava l’apprendimento e il comportamento della macchina. Adesso ne emerge una faccia complementare e altrettanto scomoda, perché tutto ciò che un sistema del genere assorbe costruisce anche un archivio, e quell’archivio contiene le fragilità di una famiglia con una precisione che la famiglia stessa non possiede. Chi è solo in casa e in quali ore, chi ha paura di chi, quale stanza viene evitata, quando si alza la voce e quando cala il silenzio. In mani sbagliate quel profilo vale enormemente più di una carta di credito rubata.

Robot domestici, GDPR e AI Act davanti a una casa reale

Chi si aspetta che il diritto abbia già una risposta pronta rimarrà deluso. Il GDPR si applica eccome, e i dati raccolti da telecamere e microfoni dentro un’abitazione sono dati personali a tutti gli effetti, spesso appartenenti alle categorie più delicate. Il problema pratico è che il consenso, come lo abbiamo costruito finora, presuppone qualcuno che legge un’informativa e decide.

Dentro una casa vivono anche bambini, anziani, ospiti, collaboratori domestici e vicini che entrano per un caffè, e probabilmente nessuno di loro ha firmato niente. Un modello di consenso pensato per un utente davanti a uno schermo regge male in una stanza dove passano dieci persone che non hanno mai visto quel documento.

Sul fronte europeo, al di là dei calendari di applicazione, l’elenco dei sistemi ad alto rischio dell’AI Act sembra costruito guardando soprattutto alla biometria, alle infrastrutture critiche, alla selezione del personale e all’accesso ai servizi essenziali. Un robot che apprende dall’ambiente domestico non vi compare ancora come categoria autonoma specifica, e la cornice sulla sicurezza dei prodotti connessi arriva da un’altra direzione, ragionando soprattutto in termini di vulnerabilità software e aggiornamenti più che di intimità familiare. Se quelle categorie bastino a coprire uno scenario del genere lo diranno i giuristi, ma a me sembrano un po’ distanti.

Le regole esistono, e non sono poche. Sono però state scritte guardando altrove, e questo scenario le attraversa tutte senza essere il bersaglio specifico di nessuna.

Il consenso prima che i robot entrino nelle abitudini

La cosa che mi colpisce di più, in tutta questa vicenda, è che nessuno sta mentendo. L’azienda ha detto pubblicamente come funziona il suo modello, ha ammesso la teleoperazione, ha dichiarato che i dati servono al miglioramento del prodotto e ha messo a disposizione degli strumenti di controllo. Le informazioni sono lì, disponibili per chiunque abbia voglia di leggerle.

Eppure la discussione pubblica scivola quasi tutta sul prezzo, sull’estetica, su quanto tempo il robot impiega a piegare un maglione, mentre la domanda su cosa entra in casa insieme a lui resta a margine.

Questa è esattamente la postura dei Sonnambuli Digitali, che con l’ignoranza tecnica c’entra poco e somiglia piuttosto alla disinvoltura con cui adottiamo strumenti potenti restando convinti che il problema riguardi qualcun altro, qualcuno più esposto o più importante di noi, senza accorgerci che quel qualcun altro vive in una casa identica alla nostra. Ci sono passato anch’io, con altri oggetti e in altri anni, e sospetto che quasi tutti possano dire lo stesso.

Non è una posizione contro i robot domestici, e chi mi legge da tempo sa che non parto mai da lì. Un umanoide capace di aiutare una persona anziana ad alzarsi dal letto o di restituire autonomia a chi non ce l’ha è una prospettiva che vale la pena inseguire sul serio. Proprio per questo la conversazione andrebbe fatta adesso, mentre siamo ancora nella fase di preordine e le abitudini non si sono ancora sedimentate, invece che tra cinque anni, quando avremo milioni di apparecchi installati e ci ritroveremo a discutere di regole guardando indietro.

Di una cosa sono ragionevolmente certo. La prima generazione di robot domestici non ci giudicherà, non ci ricatterà e non farà nulla di quello che immagina il cinema. Si limiterà a stare in casa nostra, a guardare e ad ascoltare, e a spedire altrove quello che ha imparato. Il momento di decidere quanto ci sta bene è mentre firmiamo l’ordine, non il giorno in cui scopriremo cosa è finito nell’archivio di qualcun altro.