RealPage e gli affitti automatizzati: la responsabilità resta umana

A Seattle, a Denver, in decine di città americane, migliaia di condomini affidano ogni notte a un software prodotto da RealPage, un’azienda di Richardson, in Texas, il calcolo del canone da proporre per gli appartamenti liberi.

Il programma raccoglie i canoni, le disponibilità e le date di scadenza dei contratti che i proprietari concorrenti nello stesso quartiere hanno caricato nel sistema e restituisce a ciascuno di loro il prezzo da proporre per l’appartamento libero. In un condominio di Seattle il canone sale di oltre un quarto in undici mesi dall’adozione dello strumento.

Il meccanismo diventa pubblico nel 2022, quando un giornale raccoglie contratti e comunicazioni interne tra RealPage e i propri clienti. Il Dipartimento di giustizia degli Stati Uniti deposita nel 2024 una causa antitrust contro l’azienda e vi affianca nel gennaio 2025 sei tra i maggiori gruppi immobiliari del paese. Davanti al giudice, RealPage e i gestori coinvolti sostengono che il numero restituito dal software è soltanto un consiglio e che ogni proprietario può sempre scegliere un canone diverso.

Responsabilità del software di pricing: il caso RealPage

Consiglio è la parola che RealPage mette agli atti davanti al giudice. Automazione è la parola che i proprietari usano con i giornalisti, quella che sposta la domanda sul canone verso il software invece che verso chi lo utilizza. Nel linguaggio del settore immobiliare quella parola suona rassicurante ed efficiente, quasi neutra rispetto al mercato degli affitti. Detta a proposito di migliaia di canoni fissati nello stesso momento sulla base degli stessi dati riservati, la parola cambia bersaglio. Il proprietario che ha caricato i propri contratti nel sistema, accettando di condividerli con i concorrenti, sparisce dietro un software che restituisce soltanto il numero che gli altri hanno reso disponibile. Chi ha stabilito quanto pesasse il tasso di occupazione rispetto al canone dei vicini è una persona seduta a un tavolo di RealPage e chi ha scelto la soglia oltre la quale un appartamento sfitto va corretto subito è la stessa persona. Se il software non ha deciso da solo, la domanda si sposta su chi, esattamente, debba risponderne.

Perché il software non diventa soggetto di diritto

Il codice civile italiano ha una risposta pronta per chi esercita poteri gestori senza un titolo formale, ed è tentante applicarla al software stesso. L’articolo 2639 chiama amministratore di fatto chi esercita in modo continuativo funzioni gestorie tipiche dell’amministratore, anche senza una nomina regolare e gli applica le stesse responsabilità dell’amministratore di diritto. Un programma che riceve i dati di canone di migliaia di concorrenti e restituisce ogni notte il prezzo da praticare governa, in senso descrittivo, la politica commerciale di ciascun proprietario che lo utilizza, ed è proprio questa somiglianza ad aver spinto il legislatore europeo a chiedersi se un sistema del genere potesse diventare un soggetto di diritto a pieno titolo. Nel 2017 il Parlamento europeo ha invitato la Commissione a valutare una personalità elettronica per i robot più autonomi, con diritti e doveri propri e centinaia di giuristi hanno firmato una lettera aperta contro l’idea, avvertendo che avrebbe permesso a produttori e utilizzatori di scaricare su un’entità artificiale le proprie responsabilità. Il Regolamento sull’intelligenza artificiale del 2024 ha seguito quell’avvertimento e ha distribuito gli obblighi su provider e deployer, cioè su imprese e persone che possiedono una soggettività giuridica propria, lasciando il sistema automatizzato al rango di strumento. Un dovere giuridico vero e proprio richiede un patrimonio da cui attingere e una persona che un giudice possa convocare, condizioni che un programma per calcolare i canoni lascia entrambe scoperte.

Responsabilità degli amministratori e delega gestionale

Se il software resta fuori da quella soglia, la responsabilità si sposta sulle persone che lo hanno messo al lavoro, secondo regole scritte per qualunque altra delega gestionale. L’articolo 2381 del codice civile assegna doveri distinti agli amministratori di una società. Chi riceve una delega deve curare che l’assetto organizzativo, amministrativo e contabile sia adeguato alla natura e alle dimensioni dell’impresa, per il quinto comma della norma e questo dovere si estende all’adozione di un sistema che orienta i prezzi sulla base di dati di mercato condivisi con i concorrenti. Il consigliere senza delega su questa materia conserva, per il terzo comma, il compito di farsi riferire l’andamento della gestione e di intervenire quando emergono segnali che meritano un controllo più stretto. Un canone che si stacca progressivamente dalla media di zona per effetto delle indicazioni di un fornitore di software è, per la giurisprudenza formatasi su questo dovere di vigilanza, uno di quei segnali che un consiglio informato coglie prima che un’autorità antitrust apra un fascicolo.

Il confine tra scelta imprenditoriale e mancata verifica

Le decisioni collegate a un sistema come questo si dividono, per il diritto societario, in due categorie con un peso diverso sulla responsabilità degli amministratori. L’articolo 2392 del codice civile espone gli amministratori a un obbligo di risarcire la società per i danni causati dall’inosservanza dei doveri appena descritti, ma il principio dell’insindacabilità nel merito delle scelte di gestione, riservato alle decisioni imprenditoriali assunte con un’istruttoria proporzionata al momento in cui vengono prese, protegge la prima categoria, quella della scelta iniziale di adottare un sistema di pricing alimentato da dati di mercato condivisi. La seconda categoria, quella del periodo successivo in cui il canone raccomandato si stacca sempre di più dal valore che il mercato avrebbe prodotto senza quello scambio di dati riservati, resta un terreno scoperto ogni volta che il criterio applicato smette di essere sottoposto a verifica.

AI Act e sorveglianza umana sui sistemi automatizzati

Cosa richieda in concreto quella verifica lo specifica, con un dettaglio operativo inedito per il diritto societario, il Regolamento (UE) 2024/1689. Per l’impresa che utilizza sistemi di intelligenza artificiale nei propri processi, la figura che il Regolamento chiama deployer, l’articolo 26 impone di affidare la sorveglianza umana a persone con competenza e formazione sufficienti, munite dell’autorità per intervenire, capaci di riconoscere un’anomalia negli output del sistema e di sospenderne l’uso quando il risultato appare fuori controllo. Un responsabile commerciale che riceve ogni notte un canone calcolato sui prezzi dei concorrenti e si limita a caricarlo nel contratto, si ferma prima di raggiungere questo standard, quale che sia la qualificazione del sistema come sistema ad alto rischio.

Onere della prova e presunzione di causalità

Quando quello standard manca, cambia anche la posizione processuale dell’impresa. La proposta di direttiva europea sulla responsabilità da intelligenza artificiale costruisce un meccanismo che sposta l’onere della prova su chi ha usato il sistema, quando il danneggiato dimostra la violazione di un obbligo di diligenza collegato al rischio del sistema e rende plausibile un nesso con il danno subito. Per l’inquilino che paga un canone allineato a quello dei concorrenti per effetto di un software condiviso, il terreno dello scontro cambia allo stesso modo. Basta mostrare la violazione dell’obbligo di sorveglianza umana e lo scarto tra il canone praticato e quello che il mercato avrebbe prodotto senza quello scambio di dati. Tocca poi all’impresa dimostrare di aver rispettato gli obblighi di diligenza previsti dal Regolamento sull’intelligenza artificiale, per liberarsi dalla presunzione di causalità.

Dalla responsabilità civile al caso Loomis

La stessa tensione tra strumento e responsabilità di chi lo usa si presenta anche fuori dal diritto civile e fuori dall’Europa, in un contesto ancora diverso. Negli Stati Uniti la vicenda Loomis contro Wisconsin ha affrontato una versione affine dello stesso problema in sede penale. Un tribunale aveva usato il punteggio di un software proprietario per orientare la misura della pena e l’imputato ha lamentato l’impossibilità di verificare i criteri con cui quel punteggio era calcolato. Nel 2016 la Corte suprema del Wisconsin ha respinto l’idea che un giudice potesse scaricare sulla macchina la responsabilità della propria decisione, imponendo avvertenze sui limiti dello strumento e collocando il punteggio tra i fattori a disposizione del giudice, subordinato alla sua valutazione finale.

Le tre verifiche richieste al consiglio di amministrazione

Tradotta in pratica, questa architettura di responsabilità chiede a un consiglio di amministrazione di fare tre cose. Mettere a verbale i criteri approvati per un sistema di pricing alimentato da dati di mercato condivisi, insieme alla soglia oltre la quale la raccomandazione richiede una verifica umana e alla fonte dei dati usati per calcolarla. Affidare a una persona identificata per nome il compito di confrontare periodicamente il canone raccomandato con quello che il mercato produrrebbe senza la condivisione di dati riservati. Aprire un canale attraverso cui un cliente o un’autorità di vigilanza possa segnalare un’anomalia prima che un’istruttoria si apra, togliendo così alla parola automazione lo spazio per chiudere la conversazione.

Automazione e responsabilità nella vicenda RealPage

Nella vicenda RealPage, quei tre passaggi restavano tutti da fare quando il canone ha iniziato a salire e la parola automazione ha riempito esattamente quel vuoto. Il consiglio di amministrazione che ha approvato il sistema di pricing resta tra i soggetti a cui il diritto societario chiede conto della vicenda. Lo stesso vale per i dirigenti che ne hanno fissato i pesi e la soglia di allineamento ai canoni dei concorrenti. L’ufficio commerciale che ha caricato ogni notte il canone raccomandato nei contratti senza confrontarlo con il mercato aggiunge, alla responsabilità distribuita tra organo e delega, la propria quota di un’omissione che il software si è limitato a eseguire con la costanza di un calcolo scritto da qualcun altro.