Un chatbot può promettere rimborsi, sconti o gratuità, indicare un termine di recesso errato o escludere una penale. Può promuovere l’acquisto di un prodotto. Può denigrare un concorrente o adottare strategie di pricing coordinate con le imprese concorrenti. In tutte queste ipotesi, si pone il problema dell’idoneità del chatbot a vincolare l’impresa e, più in generale, della riferibilità a quest’ultima dell’operare sul mercato dello strumento informatico.
Indice degli argomenti
Perché l’attività del chatbot può vincolare l’impresa
Deve evidenziarsi, in premessa, che attribuire “intelligenza” a processi informatici è fonte di equivoci, perché rischia di trasferire indebitamente al suo referente artificiale i significati propri dell’intelligenza umana. Come Searle ha notato sin dal 1980, infatti, gli algoritmi limitano la loro operatività al piano sintattico, senza invece attingere al piano semantico, che si riferisce al piano dei significati.
Una elevata capacità di calcolo può replicare esteriormente processi intelligenti ma ciò non comporta l’acquisto di “intelligenza” in senso stretto, posto che il funzionamento degli algoritmi si limita alla manipolazione di simboli senza attribuzione di significati e, pertanto, senza comprensione della realtà.
L’IA registra pattern statistici dai dati di addestramento. Durante il training, verifica quale sia l’output più probabile per ogni dato input, stimandone la probabilità. Quando risponde a un quesito, l’IA non deduce la risposta giusta sulla base di un ragionamento ma identifica quella più probabile all’esito di un’inferenza statistica.
Per tale motivo gli algoritmi di IA esibiscono un funzionamento non lineare, posto che una piccola perturbazione di un input può avere effetti non intuitivi, derivanti dall’applicazione di correlazioni statistiche invece di relazioni causa-effetto.
Ciò determina una fragilità semantica dei modelli di IA, soprattutto quando sono chiamati a operare al margine dei dati di addestramento, e può condurre a produzioni plausibili ma errate o totalmente inventate – le c.d. “allucinazioni” dell’IA.
Dalla sintassi dell’IA all’imputazione dell’output
I sistemi generativi, inoltre, possono produrre output non previamente determinati nel loro contenuto puntuale da un essere umano. Ciò non implica, tuttavia, che il sistema acquisti una “volontà” giuridicamente autonoma. È proprio questa relativa autonomia nella generazione dell’output, scissa da una capacità volitiva autonoma, a rendere centrale il problema della sua imputazione.
In questa prospettiva, non appare necessario, né particolarmente utile, qualificare il chatbot come “rappresentante” dell’impresa. La rappresentanza presuppone infatti un soggetto agente per conto di un soggetto diverso, al quale riferire l’attività del primo. Il problema posto dal chatbot, al contrario, non implica alcuna alterità soggettiva e va risolto, più linearmente, sul piano dell’imputazione oggettiva dell’operare algoritmico all’organizzazione che utilizza il sistema.
La stessa impostazione emerge dall’AI Act, che non attribuisce alcuna soggettività al sistema ma distribuisce gli obblighi fra gli operatori della filiera, distinguendo in particolare il provider dal deployer, ossia il soggetto che utilizza il sistema sotto la propria autorità (Regolamento (UE) 2024/1689, art. 3, nn. 3 e 4, nel testo vigente dopo le modifiche apportate dal regolamento (UE) 2026/1744).
I chatbot, infatti, non esprimono una volontà “umana” ma tale assenza non esclude, di per sé, l’imputabilità del loro operare al soggetto che ha adottato, configurato e inserito i sistemi nei propri canali di comunicazione con il pubblico. Il chatbot è una modalità tecnica di comunicazione e, se si vuole, organizzazione dell’impresa.
In questa prospettiva, l’utilizzo degli algoritmi di intelligenza artificiale fornisce un ulteriore fondamento alla svalutazione dei criteri volontaristici di imputazione di un atto ad un soggetto e alla valorizzazione, invece, del significato obiettivo della condotta in relazione alla sua riferibilità a quel soggetto e al ragionevole affidamento eventualmente creatosi con il destinatario. Così, peraltro, contribuendo ad accantonare il problema (assiologicamente inutile, tutto sommato) della personificazione dell’IA in favore di quello, funzionalmente essenziale, dell’allocazione del rischio che consegue al suo utilizzo.
La possibilità di imputare l’output del chatbot all’impresa dipende, evidentemente, dal contesto del suo utilizzo, in relazione ad elementi quali la sua operatività in un dominio o una app ufficiale, l’utilizzo autorizzato del marchio dell’impresa, l’esistenza di procedure di autenticazione etc.. L’imputazione costituisce, pertanto, un problema logicamente preliminare rispetto alla qualificazione giuridica della Condotta, là dove occorre prima stabilire se l’azione computazionale appartenga alla sfera dell’impresa e soltanto successivamente domandarsi se essa integri una dichiarazione negoziale, una pratica commerciale scorretta, un illecito concorrenziale etc..
Una specifica conferma della rilevanza giuridica dell’interfaccia conversazionale viene oggi dall’art. 50, par. 1, AI Act, che impone al provider di progettare i sistemi destinati a interagire direttamente con persone fisiche in modo che queste siano informate di stare interagendo con un sistema di IA, salvo che ciò risulti evidente dalle circostanze (Regolamento (UE) 2024/1689, art. 50, parr. 1 e 5, applicabile dal 2 agosto 2026; v. anche regolamento (UE) 2026/1744).
Chatbot e responsabilità dell’impresa prima del contratto
Un problema di imputazione all’impresa del funzionamento di un sistema algoritmico si pone, in primo luogo, in relazione alle vicende precontrattuali relative alla formazione del contratto.
Pubblicità e pratiche commerciali scorrette
Si pensi, in primo luogo, all’ipotesi in cui l’operare del chatbot abbia integrato una condotta che integra la fattispecie di attività pubblicitaria (nel senso di réclame) e questa presenti le caratteristiche di ingannevolezza previste dalla disciplina che regola la materia. Quando la comunicazione sia oggettivamente riconducibile all’impresa e sia diretta a promuoverne beni o servizi, la circostanza che il suo contenuto sia stato generato autonomamente dal sistema non sembra idonea a escluderne la qualificazione come pubblicità.
Il d.lgs. n. 145/2007 adotta, infatti, una nozione funzionale del fenomeno e valuta l’ingannevolezza in relazione al contenuto della comunicazione (d.lgs. 2 agosto 2007, n. 145, artt. 2 e 3, rispettivamente sulla nozione di pubblicità e sugli elementi rilevanti ai fini della valutazione dell’ingannevolezza). La generazione algoritmica si limita, pertanto, a modificare la tecnica di produzione del messaggio, non la sua riferibilità all’operatore pubblicitario.
Nella medesima direzione, quando il destinatario della comunicazione algoritmica sia un consumatore, il problema può essere ulteriormente qualificato come pratica commerciale scorretta per ingannevolezza, ove ne ricorrano i presupposti. Si pensi, ad esempio, al caso in cui una campagna pubblicitaria algoritmica produca claim sul prodotto o sul servizio effettivamente comunicati al mercato.
In tale ipotesi vengono in considerazione gli artt. 20-22 del Codice del consumo (artt. 20-22 d.lgs. 6 settembre 2005, n. 206; cfr. altresì Direttiva 2005/29/CE, artt. 5-7), quando l’informazione falsa, ambigua o incompleta sia idonea a falsare la decisione commerciale del consumatore. Anche in questo caso il giudizio riguarda anzitutto la pratica oggettivamente posta in essere dal professionista.
La personalizzazione algoritmica non sottrae la comunicazione alla disciplina solo perché il messaggio non era stato previamente redatto dall’impresa posto che quando il professionista abbia scelto il sistema, ne abbia determinato l’ambito di utilizzazione e lo presenti quale proprio canale di interazione commerciale, il carattere generativo dell’output deve ritenersi appartenere alla modalità organizzativa mediante la quale la pratica viene realizzata.
Si pensi, al proposito, a Corte giust. UE, 16 aprile 2015, C-388/13, UPC Magyarország, che ha affermato il principio per il quale la non rispondenza al vero di una comunicazione anche a un singolo consumatore può costituire pratica commerciale ingannevole indipendentemente dalla possibilità di rinvenire una intenzione (soggettiva intesa) decettiva. Né l’unicità dell’episodio né l’assenza di un intento soggettivo di ingannare costituivano elementi sufficienti a escludere l’applicazione della disciplina. Ciò che rileva è l’oggettiva attitudine dell’informazione falsa a incidere sulla decisione economica del consumatore.
Errore algoritmico e settori regolati
Si pensi, infine, ai casi in cui l’operare del chatbot ha integrato, nella concreta interazione con la controparte negoziale, una ipotesi di errore. Si premetta, al proposito, che non ogni “allucinazione” del chatbot può essere qualificata come errore nella dichiarazione.
Se, in tale prospettiva, il requisito dell’essenzialità non sembra presentare elementi peculiari rispetto all’ipotesi di applicazione a un attore umano, il problema della riconoscibilità diviene, invece, di particolare rilievo. L’art. 1431 c.c. valuta la riconoscibilità secondo un criterio oggettivo, chiedendo se, avuto riguardo al contenuto e alle circostanze del contratto nonché alla qualità dei contraenti, una persona di normale diligenza avrebbe potuto rilevare l’errore. Proprio tale parametro consente di governare l’errore algoritmico senza costruire regole speciali.
Un output palesemente assurdo (ad esempio un prezzo irrisorio rispetto al valore del bene o un vantaggio incompatibile con l’intera struttura dell’offerta) potrà rendere riconoscibile l’errore. Al contrario, quanto più l’informazione sia plausibile, coerente con il contesto, personalizzata sui dati della controparte e proveniente da un canale ufficialmente predisposto dall’impresa, tanto meno appare ragionevole trasferire sul destinatario l’onere di intuire che il sistema abbia “allucinato”.
Problemi specifici possono sorgere nei settori oggetto di regolazione specifica. Se il chatbot di una banca o di un intermediario suggeriscono un investimento, descrivono erroneamente rischi e costi oppure formulano una raccomandazione individualizzata, infatti, il problema non è più soltanto consumeristico ma regolatorio. L’art. 24, par. 3, direttiva 2014/65/UE (MiFID II) impone che tutte le informazioni, comprese le comunicazioni di marketing, rivolte a clienti o potenziali clienti siano corrette, chiare e non fuorvianti; specifici obblighi ulteriori operano, ai sensi degli artt. 24 e 25, quando il servizio integra consulenza in materia di investimenti.
Quando il chatbot può impegnare l’impresa nel contratto
Può ritenersi che l’output debba vedersi riconosciuto valore negoziale ogni qualvolta il chatbot partecipa alla formazione del contratto e formula condizioni determinate sui relativi elementi, quali prezzo, durata, caratteristiche, consegna, pagamento, recesso, prestazioni accessorie etc..
Si pensi, in chiave comparata e di principio, al caso trattato in Moffatt v. Air Canada, 2024 BCCRT 149, 14 febbraio 2024, nel quale il chatbot aveva erroneamente assicurato la possibilità di ottenere retroattivamente una tariffa per lutto. Il cliente acquistò il biglietto sulla base di tale output e si vide, poi, rifiutare quanto “promesso” dall’algoritmo. Il British Columbia Civil Resolution Tribunal ha, conseguentemente, riconosciuto una ipotesi di negligent misrepresentation, così valorizzando i profili oggettivi dell’operare del chatbot e impedendo all’impresa di disconoscere gli esiti della componente automatizzata del proprio agire sul mercato.
Evidentemente, non ogni esito può essere considerato costituire un elemento negoziale dovendosi, al contrario, verificare elementi quali il contenuto, la funzione e il rapporto di tale esito con le altre informazioni a disposizione della controparte. L’affidamento di chi interagisce con il chatbot, infatti, aumenta in modo proporzionale alla specificità, personalizzazione e coerenza dell’output. Rilevano, in questa valutazione, anche la collocazione del chatbot nel procedimento negoziale, l’autenticazione dell’utente, l’accesso del sistema ai dati relativi al rapporto, la prossimità temporale fra output e conclusione del contratto e l’eventuale invito a procedere all’acquisto sulla base delle condizioni appena comunicate.
Diversa è, evidentemente, la posizione di un assistente genericamente informativo rispetto a quella di un sistema inserito nel percorso di acquisto e deputato proprio a determinare prezzo, configurazione o condizioni della singola operazione. Nel secondo caso l’architettura predisposta dall’impresa contribuisce essa stessa a produrre l’apparenza di affidabilità della dichiarazione. Il problema torna, quindi, ad essere quello dell’allocazione del rischio: chi utilizza l’automazione per rendere più efficiente la formazione del contratto non può conservarne interamente i benefici trasferendo sistematicamente sul destinatario i costi degli output inattesi.
Particolare rilievo deve esser dato alla coerenza dell”output con la documentazione contrattuale. Se i contenuti forniti dal chatbot divergono rispetto alle condizioni generali dell’impresa, il conflitto non può essere risolto assumendo, semplicisticamente in via generale, la prevalenza della risposta algoritmica o quella del testo contrattuale. Occorre distinguere, riteniamo, a seconda del momento e della funzione dell’output.
Se il contratto è già perfezionato e l’output successivo si limita a rappresentarne erroneamente il contenuto, la dichiarazione del chatbot non può, di regola, modificarlo in assenza dei presupposti necessari per una modificazione negoziale. Diverso è il caso nel quale l’output preceda la stipulazione e costituisca esso stesso una delle informazioni sulla base delle quali si forma il regolamento contrattuale.
Nei rapporti con i consumatori, inoltre, per i contratti a distanza o negoziati fuori dei locali commerciali, le informazioni precontrattuali contemplate dall’art. 49 Codice del consumo (art. 49, comma 5, d.lgs. 6 settembre 2005, n. 206; cfr. altresì art. 6, par. 5, direttiva 2011/83/UE) possono acquistare per espressa previsione normativa valore integrativo del contratto.
Il conflitto fra output e condizioni generali non può quindi essere risolto attraverso una astratta prevalenza del documento scritto sul chatbot occorrendo, invece, ricostruire il procedimento di formazione del contratto, il momento in cui le diverse informazioni sono state fornite, la loro specificità e le regole di interpretazione applicabili.
Esecuzione e interpretazione del contratto
L’output di un algoritmo può, infine, rappresentare un elemento rilevante anche dopo l’avvenuta stipulazione di un contratto, ogni qualvolta esso possa acquisire rilievo ai fini dell’esecuzione o dell’interpretazione del contratto stesso.
Si premetta che, anche in questo caso, la selezione del materiale normativo non deve presupporre la necessità di andare alla ricerca di un “soggetto” – ad esempio: ritenendo di qualificare, a tal fine, l’algoritmo come “ausiliario” ex art. 1228 c.c.. Al proposito, si ripete, la questione deve essere posta in termini organizzativi e di imputazione del rischio, verificando se, alla luce del concreto operare del sistema, sia ragionevole imporne le conseguente all’impresa che lo utilizza.
Quando il chatbot gestisce la fase post-vendita, il recesso, i reclami o i rimborsi, esso sembra dover essere attratto nell’orbita regolatoria degli artt. 1175, 1218 e 1375 c.c. in tutti i casi in cui l’operare dell’algoritmo viola un obbligo contrattuale o può qualificarsi, nella sua oggettività, quale una lesione della buona fede nell’esecuzione del contratto.
Se, ad esempio, il chatbot indica erroneamente le modalità attraverso le quali esercitare il recesso, presentare un reclamo, ottenere un rimborso o adempiere un’obbligazione e il cliente, confidando nell’informazione, perde un diritto o subisce un costo, il problema può essere ricondotto all’inesatto adempimento dell’obbligazione principale o degli obblighi accessori e di cooperazione gravanti sull’impresa.
L’imprevedibilità della singola risposta generativa non costituisce, da sola, una causa non imputabile, poiché il rischio caratteristico dello strumento adottato (cioè la sua competenza esclusivamente sintattica e non semantica) appartiene normalmente alla sfera organizzativa di chi ha deciso di utilizzarlo nell’adempimento. Resta, naturalmente, necessario accertare che l’informazione erronea si collochi funzionalmente nell’esecuzione dell’obbligazione e che da essa derivi il pregiudizio lamentato.
L’output può assumere rilievo anche sul diverso piano dell’interpretazione del contratto. L’art. 1362, comma 2, c.c. impone infatti di considerare, nella ricostruzione della comune intenzione delle parti, il loro comportamento complessivo anche successivo alla conclusione del contratto. Naturalmente, l’utilizzazione dell’output quale comportamento successivo presuppone che sia già stata risolta positivamente la questione preliminare della sua riferibilità all’impresa: non ogni risposta tecnicamente generata da un sistema utilizzato dall’organizzazione può, per questo solo fatto, essere considerata comportamento della parte ai sensi dell’art. 1362, comma 2, c.c.
Ove sia imputabile all’impresa, la condotta tenuta mediante il chatbot può dunque concorrere, insieme agli altri elementi disponibili, a chiarire il significato attribuito al regolamento negoziale nella sua concreta esecuzione. Non ogni risposta automatica può ritenersi costituire interpretazione autentica, ovviamente. Tuttavia, una sequenza coerente di risposte personalizzate mediante le quali l’impresa applichi il contratto in un determinato modo può difficilmente essere considerata del tutto irrilevante quando successivamente essa pretenda di attribuire alla medesima clausola un significato opposto. Vengono altresì in considerazione il principio di buona fede interpretativa di cui all’art. 1366 c.c. e, per le condizioni predisposte unilateralmente, le ulteriori regole ermeneutiche applicabili.
Responsabilità dell’impresa tra concorrenza sleale e antitrust
Non può, ovviamente, escludersi che l’operare del chatbot possa perturbare il corretto funzionamento del mercato indipendentemente dalla sua natura prodromica rispetto alla stipulazione di un contratto. Devono distinguersi, al proposito, due diverse ipotesi.
La prima consiste nel caso in cui l’operare del chatbot integri una condotta astrattamente lesiva dei concorrenti dell’impresa che lo ha adottato e presenti, nel suo contenuto oggettivo, elementi di contrarietà ai principî di correttezza professionale. È ragionevole, in tal caso, immaginare l’applicazione della disciplina della concorrenza sleale ai sensi degli artt. 2598 ss. c.c..
Si pensi all’ipotesi in cui il sistema, interrogato sui prodotti concorrenti, generi sistematicamente informazioni false o apprezzamenti idonei a screditarli. Anche qui la natura generativa della singola affermazione non dovrebbe costituire, di per sé, una zona franca.
D’altra parte, sembra doversi considerare differentemente l’ipotesi di un output occasionale, manifestamente aberrante e prontamente corretto rispetto a una condotta ripetuta, prodotta da un sistema lasciato operare nonostante la conoscenza della sua propensione a generare affermazioni, in ipotesi, lesive sui concorrenti. L’automazione finisce per incidere, pertanto, sull’imputazione e sulla diligenza organizzativa richiesta più che sulla struttura dell’illecito concorrenziale.
Maggiore cautela è necessaria sul piano antitrust, poiché l’impiego di un algoritmo non consente di prescindere dagli elementi costitutivi dell’illecito. Con riferimento all’art. 101 TFUE e all’art. 2 l. 10 ottobre 1990, n. 287, il mero parallelismo delle condotte o dei prezzi prodotti da sistemi algoritmici non è sufficiente a integrare il divieto di intese anticoncorrenziali, dovendo comunque ricorrere un accordo o una pratica concordata nel significato comune delle fattispecie.
La giurisprudenza europea mostra, tuttavia, che un’infrastruttura informatica può costituire il veicolo della concertazione. In Corte giust. UE, 21 gennaio 2016, C-74/14, Eturas et al., relativa a una piattaforma comune utilizzata da agenzie di viaggio, la Corte di giustizia ha esaminato una limitazione automatica degli sconti applicabile attraverso il sistema, richiedendo comunque la prova degli elementi di conoscenza e partecipazione necessari per la pratica concordata.
Analogamente, Corte giust. UE, 21 luglio 2016, C-542/14, VM Remonts et al, esclude che il comportamento di un prestatore indipendente possa essere automaticamente imputato all’impresa cliente, ma ammette tale imputazione quando il prestatore operi sotto la sua direzione o controllo oppure quando l’impresa conosca gli obiettivi anticoncorrenziali e intenda contribuirvi, o possa ragionevolmente prevedere la condotta e accettarne il rischio. Il principio è utile anche rispetto all’IA, là dove l’automazione non crea né un’immunità né una responsabilità oggettiva.
Lo stesso vale per l’art. 102 TFUE (e per l’art. 3 l. 10 ottobre 1990, n. 287), posto che se un’impresa dominante utilizza il chatbot come strumento per attuare condotte discriminatorie o escludenti, l’algoritmo può costituire il mezzo dell’abuso, ma restano necessari tutti gli ordinari presupposti della fattispecie.
Chatbot, GDPR e responsabilità per le decisioni automatizzate
Se il chatbot raccoglie dati, li combina con quelli già detenuti dall’impresa, profila l’utente o arriva a determinare una decisione che produce effetti giuridici o analogamente significativi (ad esempio: concessione del credito, condizioni contrattuali individualizzate, blocco di un servizio), l’automazione non sottrae il trattamento alla disciplina del GDPR. Restano anzitutto applicabili i principi dell’art. 5, fra cui liceità, correttezza, trasparenza, minimizzazione ed esattezza dei dati.
Un problema ulteriore si pone quando il sistema adotti una decisione basata unicamente sul trattamento automatizzato che produca effetti giuridici sull’interessato o incida analogamente in modo significativo sulla sua persona. In tale ipotesi viene specificamente in considerazione l’art. 22 GDPR e il relativo sistema di garanzie.
L’art. 22 riconosce, infatti, all’interessato, salve le eccezioni previste dal comma 2, il diritto a non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato che produca effetti giuridici o incida analogamente in modo significativo sulla sua persona.
Alla disciplina sostanziale si affiancano gli obblighi informativi degli artt. 13 e 14 e il diritto di accesso previsto dall’art. 15, che, nei casi contemplati, riguardano anche l’esistenza del processo decisionale automatizzato e informazioni significative sulla logica utilizzata, nonché sull’importanza e sulle conseguenze previste del trattamento.
Il problema acquista particolare evidenza quando l’output produca effetti discriminatori. Si pensi al chatbot che, nell’accesso a beni o servizi, tratti sistematicamente in modo deteriore utenti in ragione della loro origine razziale o etnica.
La direttiva 2000/43/CE vieta discriminazioni dirette e indirette fondate su tali caratteristiche anche nell’accesso e nella fornitura di beni e servizi disponibili al pubblico (direttiva 2000/43/CE, artt. 2 e 3; cfr. altresì d.lgs. 9 luglio 2003, n. 215, artt. 2 e 3). Il carattere algoritmico della condotta non introduce, di per sé, una deroga; occorre, invece, stabilire se il trattamento differenziato prodotto dal sistema sia imputabile al soggetto che lo utilizza. Analoghi problemi possono porsi, nei rispettivi ambiti di applicazione delle diverse discipline antidiscriminatorie, con riguardo ad altre caratteristiche protette.
La giurisprudenza della Corte di giustizia ha ulteriormente precisato la portata di tali disposizioni. In Corte giust. UE, 7 dicembre 2023, C-634/21, SCHUFA Holding (Scoring), la Corte ha ricondotto all’art. 22 GDPR anche il calcolo automatizzato di un valore probabilistico quando esso assuma un ruolo decisivo nella successiva decisione contrattuale. In Corte giust. UE, 27 febbraio 2025, C-203/22, Dun & Bradstreet Austria, ha chiarito che il diritto di accesso alle “informazioni significative sulla logica utilizzata” impone al titolare di spiegare in forma comprensibile i criteri e il procedimento concretamente applicati alla decisione automatizzata.
Chatbot e responsabilità delle piattaforme nelle raccomandazioni
Problemi analoghi di imputazione dell’attività algoritmica emergono nelle piattaforme online, dove il DSA definisce espressamente i sistemi di raccomandazione (art. 3, lett. s) e ne disciplina, tra l’altro, la trasparenza (art. 27) e i rischi connessi ai sistemi algoritmici.
L’art. 27 del regolamento (UE) 2022/2065 impone ai fornitori di piattaforme online che utilizzano sistemi di raccomandazione di indicare, in modo chiaro e comprensibile, i principali parametri utilizzati da tali sistemi e le eventuali possibilità offerte agli utenti di modificarli o influenzarli. Il legislatore europeo prende dunque espressamente in considerazione l’attività algoritmica attraverso la quale la piattaforma seleziona, ordina, suggerisce o rende maggiormente visibili determinate informazioni.
La questione può riguardare anche un chatbot quando esso non si limiti a rispondere a domande, ma svolga concretamente una funzione di selezione, prioritizzazione o raccomandazione dei contenuti, dei prodotti o dei servizi mostrati all’utente. In tal caso, ciò che rileva non è tanto la forma conversazionale dell’interfaccia quanto la funzione effettivamente svolta dal sistema. Se, ad esempio, l’assistente ordina i risultati, privilegia taluni prodotti, suggerisce determinati contenuti o orienta sistematicamente l’utente verso alcune opzioni, l’attività generativa può sovrapporsi a quella propria di un sistema di raccomandazione.
Anche in questa ipotesi, non occorre attribuire una “volontà” autonoma al sistema per riferire alla piattaforma (e alla impresa che ne è titolare) le modalità attraverso le quali le informazioni vengono selezionate e presentate, quando esse dipendano dall’architettura algoritmica che il provider ha scelto di incorporare nel servizio.
Per le piattaforme online di maggiori dimensioni il DSA rende questa logica ancora più evidente, là dove gli artt. 34 e 35 impongono ai fornitori di very large online platforms e very large online search engines di identificare e valutare i rischi sistemici derivanti anche dalla progettazione e dal funzionamento dei sistemi algoritmici, compresi i sistemi di raccomandazione, e di adottare misure di mitigazione proporzionate.
Disclaimer e responsabilità dell’impresa per il chatbot
La presenza di un disclaimer può contribuire a ridurre l’affidamento a condizione che sia chiaro, tempestivo e coerente con la funzione del sistema. D’altra parte, esso non può giustificare la violazione della disciplina relativa all’informativa e all’informazione precontrattuale.
Formule come “le risposte dell’IA possono contenere errori” potrà, quindi, incidere sulla ragionevolezza dell’affidamento, ma il suo peso sarà molto diverso a seconda che il chatbot sia presentato come semplice strumento informativo oppure come canale ufficiale per le vicende inerenti la stipulazione o esecuzione del contratto quali conoscere il prezzo applicabile, esercitare il recesso o chiedere un rimborso. Quanto più l’impresa progetta il sistema come integrato nel proprio agire negoziale, tanto meno un disclaimer generico può neutralizzare l’affidamento prodotto dalla stessa architettura del servizio.
Ove il disclaimer assuma natura contrattuale, la sua efficacia incontra inoltre i limiti generali dell’art. 1229 c.c. e, nei rapporti con i consumatori, la disciplina delle clausole abusive di cui agli artt. 33 e 36 Codice del consumo. La dichiarazione secondo cui “le risposte dell’IA non sono vincolanti” non può quindi essere utilizzata come clausola generale di immunità rispetto a obblighi inderogabili o all’inesatto adempimento.
La prova della responsabilità per l’output del chatbot
L’iterazione con i chatbot sono dinamiche e non necessariamente sono registrate dall’impresa che ne fa uso; non lo sono mai dal lato della sua controparte. Al fine di dar prova del contenuto dell’iterazione, pertanto, l’effettuazione di screenshot e riproduzioni può rappresentare un elemento utile ai fini del’art. 2712 c.c., come può sistematicamente argomentarsi richiamando Cass. (ord.) 18 gennaio 2025, n. 1254 (sull’utilizzabilità in istruttoria di messaggi WhatsApp e SMS acquisiti anche tramite screenshot) e Cass. 29 gennaio 2024, n. 2607 che, in una fattispecie soggetta alla disciplina ratione temporis applicabile, ha affrontato il valore probatorio della stampa di una pagina di home banking e la qualificazione della pagina web quale documento informatico.
Sul lato dell’impresa, appare invece soluzione organizzativamente necessaria (e non solo prudente) la registrazione di log proporzionati e conformi al GDPR. Ciò soprattutto in relazione alle informazioni che l’impresa è obbligata a fornire ai propri clienti. La tracciabilità assume, infatti, una funzione non soltanto difensiva ma direttamente probatoria.
Nei contratti a distanza soggetti alla disciplina consumeristica, l’onere di dimostrare l’adempimento degli obblighi informativi grava sul professionista ai sensi dell’art. 49, comma 10, Codice del consumo. Se quest’ultimo sceglie di assolverli, integralmente o parzialmente, attraverso un chatbot, deve pertanto essere in condizione di ricostruire il corretto adempimento degli obblighi. Ciò determina, evidentemente, una sovrapposizione con la disciplina in materia di dati personali ed esclude forme indiscriminate di conservazione dei dati.
Si noti come la chat possa essere considerata “supporto durevole” solo là dove essa assicuri conservazione, accessibilità, riproduzione identica e immodificabilità unilaterale secondo i criteri definiti in Corte giust. UE, 5 luglio 2012, C-49/11, Content Services, e Corte giust. UE, 25 gennaio 2017, C-375/15, BAWAG. Ne consegue che non è la forma “chat” a determinare la qualificazione, ma la sua concreta architettura.
Una conversazione destinata a scomparire alla chiusura della sessione, o il cui contenuto possa essere modificato unilateralmente dall’impresa, difficilmente soddisfa i requisiti del supporto durevole. Può invece assumere tale funzione una cronologia individuale che l’utente possa conservare o recuperare per un periodo adeguato, riprodurre senza alterazioni e sottrarre a successive modifiche del professionista.
BAWAG conferma, inoltre, che anche un’area elettronica riservata può integrare un supporto durevole quando garantisca tali caratteristiche. Quando la conoscenza dell’informazione richieda l’accesso del cliente alla piattaforma, assume rilievo anche una comunicazione idonea a richiamare la sua attenzione sulla disponibilità dell’informazione.
Governance del chatbot e gestione del rischio d’impresa
La prospettiva dell’allocazione del rischio conduce, infine, dalla responsabilità per il singolo output alla governance dell’uso dell’IA nell’impresa. Una volta riconosciuto che il chatbot costituisce parte dell’organizzazione attraverso la quale l’impresa agisce sul mercato, la scelta di utilizzarlo deve essere accompagnata da presidi proporzionati alla natura delle funzioni attribuitegli e alla gravità delle conseguenze di un eventuale errore.
Il problema non consiste nell’eliminazione assoluta delle allucinazioni, obiettivo tecnologicamente irrealistico in ragione dei limiti operativi dello strumento, ma nella costruzione di un sistema capace di ridurne probabilità e impatto.
L’adeguatezza dell’organizzazione richiede quindi, secondo un criterio di proporzionalità, la delimitazione delle funzioni affidate al sistema, l’individuazione delle materie nelle quali esso può fornire risposte vincolanti, il collegamento alle fonti aziendali aggiornate, sistemi di retrieval per le informazioni sensibili, procedure di escalation verso operatori umani, registrazione degli output rilevanti, versioning delle basi informative, controlli periodici, gestione degli incidenti e attribuzione interna delle responsabilità.
A fronte della centralità giuridica dell’organizzazione quale oggetto di doveri gestori, l’AI Act aggiunge oggi un elemento più specifico là dove, all’art. 4, impone a provider e deployer di adottare misure volte a sostenere un adeguato livello di AI literacy del personale e degli altri soggetti che operano o utilizzano sistemi di IA per loro conto, tenendo conto delle competenze e del concreto contesto di utilizzazione.
Nel diritto interno, la l. 23 settembre 2025, n. 132 richiama, tra gli altri, i principi di trasparenza, accuratezza, sicurezza e non discriminazione nell’adozione e utilizzazione dell’IA; il richiamo deve tuttavia essere letto alla luce dell’art. 3, comma 5, che esclude la creazione di nuovi obblighi rispetto a quelli previsti dall’AI Act.
Il chatbot diviene così un problema di compliance by design, posto che quanto maggiore è l’autonomia operativa che l’impresa attribuisce al sistema, tanto più robusti devono essere i presidi attraverso i quali essa governa il rischio delle comunicazioni che il sistema produce.
Dall’output del chatbot alla responsabilità dell’impresa
L’operare dell’impresa mediante l’utilizzo di chatbot non rappresenta, di per sé, una ipotesi in cui le nuove tecnologie richiedono un ripensamento paradigmatico della disciplina sostanziale esistente – una law of the horse, secondo la felice espressione coniata da Frank H. Easterbrook. L’intelligenza artificiale aumenta scala, velocità e probabilità di errore ma, almeno in questo ambito, non la struttura giuridica del rapporto.
Ciò, ovviamente, a condizione che le conseguenze dell’operare dell’algoritmo possano essere imputate all’impresa che lo ha adottato, il che rappresenta, sulle questioni esaminate, il vero terreno sul quale l’evoluzione legislativa può rappresentare un elemento utile o, in alcuni casi, necessario.
L’attuale sistema giuridico, infatti, è stato pensato e definito per lo più presupponendo il solo agire nel mondo di attori biologici dotati di autocoscienza e consapevolezza, cioè: esseri umani. L’utilizzo degli algoritmi di IA, al contrario, impone di adeguare i criteri dell’operare da quelli ancorati all’esistenza di una volontà consapevole, valorizzando i profili oggettivi dell’operare e gli elementi utili ai fini della loro imputazione.
In termini paradigmatici ciò significa spostare l’attenzione dai profili psicologici e soggetti a quelli oggettivi con la consapevolezza che la disciplina dell’operare dell’IA rappresenta, in termini funzionali, essenzialmente una disciplina di allocazione del rischio e dei costi derivanti dal suo operare.
In questa prospettiva, nella materia di cui trattasi appare metodologicamente necessario effettuare la valutazione circa l’imputazione dell’output prima della qualificazione giuridica della condotta. Nel processo applicativo, pertanto, deve procedersi prioritariamente a verificare se l’attività computazionale appartenga giuridicamente alla sfera dell’impresa; solo successivamente appare legittima la domanda circa il valore giuridico (dichiarazione negoziale, illecito, pratica commerciale scorretta etc.) di quell’operazione.
Partecipa alla community