Quando pensiamo all’Intelligenza Artificiale, pensiamo subito a uno schermo. Risponde, suggerisce, sbaglia, a volte ha delle allucinazioni. Ma resta lì, confinata in uno spazio visivo e digitale. Il danno sembra limitato dal fatto che non può muoversi. Uno sbaglio resta lì, chiuso in mezzo ai bit.
Quel confine però si sta assottigliando e non tra qualche decennio: i robot domestici intelligenti alimentati dall’AI ci stanno per entrare in casa e noi abbiamo la stessa inconsapevolezza con cui abbiamo accolto ogni nuova tecnologia.
Indice degli argomenti
Quando l’errore dell’AI entra nello spazio fisico
Qui però cambia la natura del problema. Quando un sistema che ragiona per probabilità può sbagliare ed essere manipolato dall’esterno entra in un corpo fisico e comincia a muoversi nello stesso ambiente in cui vivono le persone, il problema salta di categoria. L’errore non resta nel linguaggio. Si incarna ed entra nell’ambiente fisico.
E non è un film, gli investimenti sono reali, le aziende anche, e i sistemi stanno uscendo dal laboratorio, in massa. Quando un robot sbaglia nello spazio domestico, chi è il responsabile?
Prima però guardiamo i numeri. Secondo MarketsandMarkets, il mercato globale dei robot umanoidi valeva quasi 3 miliardi di dollari nel 2025 e dovrebbe raggiungere 15 miliardi entro il 2030, con un tasso di crescita annuo quasi del 40%. Morgan Stanley proietta un mercato da 5.000 miliardi di dollari entro il 2050, con circa un miliardo di unità in uso. Le stime variano a seconda delle metodologie, ma la direzione è uniforme: il mercato cresce, e cresce in fretta.
Nel 2025 Google DeepMind ha lanciato Gemini Robotics: un modello basato su Gemini 2.0 progettato per controllare robot fisici, capace di collegare linguaggio, visione e azione nel mondo fisico, e di adattarsi a situazioni che non ha mai visto durante il training. In parallelo, Tesla ha annunciato la riconversione delle linee di produzione di Model S e Model X nello stabilimento di Fremont, California, per produrre il robot umanoide Optimus, con obiettivi dichiarati fino a un milione di unità annue a regime. ABI Research stima che nel 2027 verranno spediti nel mondo circa 115.000 robot umanoidi: non un’ondata lontana, una traiettoria già in moto. Certo, non saranno tutti cyborg domestici, ma saranno comunque in giro assieme a noi, nelle fabbriche, negli ospedali, nei magazzini e nelle case.
Robot domestici intelligenti, una traiettoria già in moto
Per vedere il problema che si apre non serve essere ingegneri di robotica. Basta osservare come le tecnologie entrano nelle case e nei comportamenti, e cosa succede quando le regole arrivano in ritardo.
Stiamo per portarci in casa qualcosa che non si limita a eseguire. Guarda, interpreta e agisce. Un frigorifero smart o un aspirapolvere robotico eseguono compiti circoscritti, il problema però comincia quando la macchina deve cavarsela fuori dallo script e può andare in giro, fra stanze, persone, giardini e, perché no, strade.
Gli smart robot imparano, studiano, analizzano, copiano, così il rischio cambia faccia. I modelli che controllano questi robot non vengono programmati nel senso tradizionale ricevendo istruzioni precise per ogni situazione. Vengono addestrati su sequenze di video, dimostrazioni e comportamenti umani, e costruiscono da lì parte della loro capacità di agire. È la stessa logica con cui un modello linguistico ha imparato a scrivere leggendo miliardi di testi. Solo che qui l’output è un movimento, una presa, una decisione fisica.
La conseguenza è semplice. Se il robot apprende guardando comportamenti umani, apprende anche ciò che non dovrebbe: i pattern distorti, le abitudini problematiche, i gesti aggressivi. Il sistema non distingue moralmente tra ciò che osserva. Assorbe quei pattern e li incorpora nel modo in cui interpreta una situazione o seleziona un’azione. Se questi sistemi vengono fatti apprendere in ambienti segnati da comportamenti tossici o da bias profondi, il rischio è che incorporino anche quelle distorsioni.
Apprendimento, vulnerabilità e dati personali in casa
Stiamo per introdurre in casa sistemi che apprenderanno da noi, senza avere ancora chiaro cosa significa educarli, chi è responsabile di farlo e cosa succede quando apprendono male.
Un robot che convive con anziani fragili, con bambini, con persone in condizioni di vulnerabilità, può accumulare informazioni sui ritmi, sulle abitudini e sulle condizioni di chi gli sta intorno. Con il tempo, attorno a questi sistemi può formarsi fiducia, abitudine, perfino un sentimento sintetico. Quel profilo, in mani sbagliate, vale quanto qualsiasi dato personale. Di più, perché è incorporato in un sistema che può agire fisicamente, in autonomia. Nel bene e nel male.
Poi c’è il resto. Questi robot girano su software complesso, connesso, aggiornabile da remoto. Il corpo che si muove in casa eredita tutte le vulnerabilità digitali di quel software: bug, errori di sistema, possibilità di manipolazione esterna e allucinazioni dell’AI che, in un corpo fisico, possono tradursi in azioni. Un attacco informatico a un sistema domotico oggi significa dati rubati o dispositivi bloccati. Su un robot con un corpo fisico, quelle vulnerabilità escono dallo schermo ed entrano in casa. Non è teoria: vulnerabilità e abusi sono già emersi con gli aspirapolvere smart, con le webcam, le centraline dei pannelli solari.
Il problema quindi cambia davvero scala. In genere un modello linguistico che sbaglia produce una risposta sbagliata. La si può ignorare, correggere, chiudere un’app, chiudere una finestra. Un sistema incarnato in un corpo fisico che sbaglia produce un’azione sbagliata. Nello spazio domestico, vicino alle persone che ci vivono, e non c’è nessuna finestra da chiudere con un click.
Chi progetta questi sistemi credo lo sappia. La stessa logica probabilistica che in un chatbot genera un testo inventato, in un robot smart può tradursi in un movimento non previsto, in una distanza valutata male, in un intervento nel momento sbagliato. L’errore non è necessariamente catastrofico, può essere minimo, quasi invisibile. Ma avviene in uno spazio fisico condiviso, e il margine di tolleranza lì è diverso da quello di uno schermo.
Chi può fermare un robot domestico quando qualcosa va storto
Poi c’è il controllo. Chi può fermare un robot domestico quando qualcosa va storto? Chi ha la responsabilità? Su questo punto Marco Camisani Calzolari insiste da tempo: se un robot condivide lo spazio fisico con le persone, serve una targa, un elemento di riconoscibilità, riconducibile al proprietario e al produttore. E serve anche un sistema di arresto di emergenza fisico. Quindi è necessaria una responsabilità chiara.
Poi resta il resto: la presenza dell’utente, la capacità di accorgersi in tempo che qualcosa non va, l’integrità del canale di controllo, la possibilità di intervenire. Finché tutto va come previsto, questi presupposti sembrano solidi, ma se smette di andare tutto bene?
C’è anche chi rimane lontano dalla nostra casa, perché i sistemi ricevono aggiornamenti, si connettono a server remoti, comunicano con piattaforme esterne, mandano log e analisi in qualche server farm. Chi gestisce quella infrastruttura può intervenire sul sistema in modi che l’utente domestico spesso non vede e non governa. Dentro casa, quel robot non dipende solo da chi lo usa, ma anche da chi l’ha costruito, da chi gestisce il software, da chi eroga il servizio di manutenzione. Quando qualcosa va storto, quella catena di responsabilità è lunga e oggi come oggi è opaca.
AI Act e robot AI in casa, il nodo del vuoto normativo
Certo, l’Europa si è data un quadro normativo sull’Intelligenza Artificiale. L’AI Act è entrato in vigore nell’agosto 2024, ma la sua applicazione sta già attraversando rinvii, aggiustamenti e tentativi di semplificazione, soprattutto sulle regole per i sistemi ad alto rischio. È il più ambizioso tentativo al mondo di regolare l’AI per categorie di rischio, ma proprio questa fase di riscrittura conferma il punto: la tecnologia corre, le regole inseguono.
L’AI Act classifica, oggi, i sistemi in base al rischio che rappresentano: inaccettabile, alto, limitato, minimo. I robot domestici che convivono con esseri umani e apprendono dall’ambiente non rientrano in modo esplicito nelle categorie ad alto rischio previste dal regolamento. Qui il punto è un altro: sistemi che abitano la casa, osservano chi ci vive, apprendono dall’ambiente e poi agiscono. Quando è stato scritto, questo scenario non era ancora così chiaro davanti al legislatore. Il Cyber Resilience Act lavora nella direzione giusta sul fronte della sicurezza informatica dei prodotti connessi. Per ora un sistema autonomo che apprende comportamenti e agisce fisicamente nello spazio domestico resta fuori da un perimetro esplicito di entrambi. È un ritardo strutturale perché le normative quasi sempre inseguono la tecnologia, non la anticipano e forse non possono anticiparla.
La domanda sulla responsabilità non ha ancora una risposta giuridica specifica per questo scenario. Se un robot domestico causa un danno fisico, chi risponde? Il produttore che ha costruito l’hardware? L’azienda che fornisce il modello AI? Chi ha distribuito gli aggiornamenti software? L’utente che ha portato il sistema in casa e lo ha lasciato operare? O addirittura l’utente che coi suoi comportamenti quotidiani ha “insegnato” male al robot? La catena, con le sue infinite variabili, è davvero lunga, e oggi nessuna norma la attraversa fino in fondo per questo scenario. Giuristi e legislatori stanno cominciando a entrarci, ma per ora non vedo risposte chiare.
Violenza domestica sintetica, il rischio senza nome
C’è un aspetto che i numeri di mercato e le lacune normative non catturano ancora. Una casa non è uno spazio neutro. È il luogo in cui esistono già rapporti sentimentali, di forza, abitudini, dipendenze e controllo.
Quando un robot domestico entra in una casa segnata dalla violenza o dal controllo coercitivo, non entra come uno strumento inerte. Osserva chi ci vive, ne impara i ritmi, accumula informazioni su chi è più vulnerabile e in quali momenti. Può sorvegliare, intimidire, registrare, rendere il controllo più continuo e meno visibile. In una casa già così, tutto questo non sostituisce la violenza. Le dà un altro corpo.
Non serve immaginare scenari estremi. Chi gestisce l’app, chi riceve i log di sistema, chi può attivare funzioni da remoto: sono già le domande giuste. In una relazione segnata dal controllo, uno strumento del genere può estendere la violenza, automatizzarla, renderla più pervasiva.
Quando la violenza domestica trova un sistema autonomo incarnato attraverso cui esercitarsi, siamo davanti a qualcosa che non ha ancora un nome nel codice penale, né nelle direttive europee, né nei manuali di sicurezza dei prodotti. Forse è il momento di darle un nome: violenza domestica sintetica. E rischiamo di riconoscerla tardi.
