Questo sito web utilizza cookie tecnici e, previo Suo consenso, cookie di profilazione, nostri e di terze parti. Chiudendo questo banner, scorrendo questa pagina o cliccando qualunque suo elemento acconsente all'uso dei cookie. Leggi la nostra Cookie Policy per esteso.OK

GLI IMPATTI DELLA AI

Intelligenza artificiale e contratti, che succede se salta il fattore umano

L’utilizzo di sistemi di AI sta facendo saltare i parametri degli accordi per la fornitura di beni e servizi. Spariscono le condizioni determinate dalla “fallibilità” umana, subentrano nuovi paradigmi che aprono a scenari inattesi. Ecco una panoramica dei vantaggi e delle eventuali criticità

24 Apr 2019

Niccolò Anselmi

Dentons Europe Studio Legale Tributario

Giangiacomo Olivi

Dentons Europe Studio Legale Tributario


L’Intelligenza artificiale sta determinando un capovolgimento nella definizione di obblighi e garanzie delle parti in sede di negoziazione ed esecuzione del rapporto contrattuale.

Questo perché con la scomparsa del “fattore umano” viene meno anche l’applicazione di rimedi legati alla qualità della fornitura. E prendono il sopravvento inedite tipologie di contrattazione. Ecco un’analisi delle nuove modalità negoziali e delle criticità che possono presentarsi.

Nei precedenti articoli (disponibili qui, qui, qui e anche qui) sono state affrontate le principali problematiche che lo sviluppo e la diffusione sempre più ampia dell’Intelligenza Artificiale (di seguito, “AI”) pone in ambito di tutela di dati personali. A partire dal presente post, invece, ci occuperemo di implicazioni e criticità della AI anche in altri ambiti giuridici. Cominceremo, in particolare, analizzando i rapporti tra AI e contratti.

In questo articolo ci occuperemo non tanto di come la AI possa influenzare, velocizzandoli, i processi di scrittura, analisi e redazione dei contratti, quanto dell’impatto che l’utilizzo di tecnologie AI nella prestazione di servizi o nella fornitura di beni può comportare sulla definizione degli obblighi e delle garanzie delle parti, in sede di negoziazione e di esecuzione del rapporto contrattuale.

Perché saltano i vecchi parametri

Per rendere al meglio l’idea dell’importanza dei cambiamenti che si rendono necessari (anche) nella contrattualistica alla luce dello sviluppo delle tecnologie AI, si pensi ai contratti di prestazione di servizi, con particolare riferimento all’outsourcing di servizi (es. business processing).

Tradizionalmente le prestazioni del fornitore sono commisurate alla valutazione del servizio reso da “umani”, con riferimento alle modalità, le tempistiche e altre variabili attraverso le quali tali servizi devono essere prestati (es. mediante i c.d. Service Level Agreements, o “SLA”).

In questi casi, si prevede solitamente l’applicazione di particolari rimedi (penali, sconti sui corrispettivi, ecc.) in caso di ritardi nella fornitura dei servizi, o nell’eventualità in cui la prestazione non sia erogata ad un determinato livello qualitativo (strettamente dipendente dalla “fallibilità umana”, relativo cioè a individui che non erogano perfettamente le prestazioni per una serie di variabili umane quali l’umore, la stanchezza, la puntualità, ecc.).

Un simile equilibrio contrattuale è oggi messo in discussione, nella misura in cui certi servizi non sono più erogati dal fornitore mediante prestazioni rese da “esseri umani” (che sono per definizione “fallibili” e più o meno efficienti a seconda di variabili e fattori di varia natura, personale e ambientale), ma attraverso l’utilizzo di sistemi AI in grado di sostituire, in tutto e per tutto, la componente umana.

In tale ottica, anche considerato l’attuale stato del progresso tecnologico (i sistemi AI sono in grado di reagire alle variabili ambientali e “apprendere” dal pregresso, ma non sono ancora assimilabili a veri e propri esseri senzienti, in termini di umore, stanchezza, ecc.), i termini della questione potrebbero mutare: non si dovrà più ragionare in termini di erogazione “perfetta” o “imperfetta” del servizio, dal momento che il sistema AI dovrebbe garantire, per sua stessa natura, una erogazione sempre “perfetta” (o quantomeno pari ai livelli di servizio predeterminati in fase di negoziazione).

I principali ambiti di trasformazione del contratto

Tutt’al più, salvo alcune importanti eccezioni, il sistema AI può non fornire il servizio in toto, in presenza di una serie di variabili o fattori (es. mancate/errate configurazioni, infrastrutture inadeguate, eventi esterni quali indisponibilità dei sistemi informatici, ecc.).

La questione riguarderà, quindi, principalmente l’erogazione del servizio tout court o l’incident “catastrofico”, piuttosto che i minori disservizi.

Da ciò potrebbero derivare alcune conseguenze, che incidono in modo nelle trattative tra fornitore e committente. Ad esempio:

  • potrebbero perdere rilevanza i meccanismi contrattuali premiali o le limitazioni responsabilità legati a lievi discostamenti dai livelli di servizio garantiti (accettabili nell’ottica della fornitura del servizio da parte di umani, che possono rendere il servizio in modo “non perfetto”, ma difficilmente giustificabili in un contesto di sistemi AI, per il quali servizio o verrebbe erogato perfettamente, o non vorrebbe erogato del tutto);
  • ancora, il fornitore potrebbe dover tutelarsi in caso di conseguenze dovute alla errata interazione tra sistema AI e utilizzatore / committente, non solo negoziando esclusioni di responsabilità, ma anche, nell’interesse di tutte le parti coinvolte, introducendo specifici obblighi di formazione, training e affiancamento del fornitore verso l’utilizzatore / committente, nell’utilizzo dei sistemi AI;
  • si potrebbero sviluppare nuovi meccanismi rimediali a tutela del fornitore, con possibile coinvolgimento di terzi: ad esempio, mediante la stipula di specifiche coperture assicurative.

Clausola di riservatezza, ecco come gestirla con il robot

L’utilizzo di tecnologie AI nella esecuzione del contratto è idoneo a produrre effetti anche su clausole contrattuali di altra natura, che non riguardano direttamente le modalità di prestazione dei servizi.

Si pensi, ad esempio, alle clausole di riservatezza; anche queste si fondano tradizionalmente sul concetto che le informazioni rilevanti ai fini della corretta esecuzione del contratto siano trattate, scambiate ed elaborate tra esseri umani, e siano di conseguenza astrattamente sottoposte alle variabili della fallibilità umana; ad esempio, le persone fisiche coinvolte nelle operazioni di esecuzione del contratto potrebbero consentire l’accesso alle informazioni riservate ad individui non autorizzati per errore, per distrazione, per disattenzione, o per mancato rispetto delle procedure interne di condivisione di informazioni e documenti.

Laddove, in seguito al ricorso a tecnologie AI, la componente umana sia sostituita da quella “robotica”, vengono meno alcuni presupposti per la regolazione dei rapporti tra le parti in senso tradizionale: se l’informazione riservata viene trattata da un sistema AI, potrebbe perdere rilevanza il problema di divulgazione (o comunicazione a terzi non autorizzati) dovuta a distrazioni o disattenzioni della “macchina”. Il mancato rispetto del vincolo di riservatezza, piuttosto, potrebbe essere dovuto a errate, insufficienti o incomplete programmazioni, da parte del soggetto coinvolto o del sistema AI considerato.

Sarà di conseguenza necessario, anche in questo caso, modificare sensibilmente le relazioni contrattuali tradizionali, soprattutto in relazione ai regimi di responsabilità del fornitore del servizio AI: responsabilità che dovrà essere graduata tenendo in considerazione i ruoli specifici di tutti i soggetti coinvolti (dagli sviluppatori del software, al produttore, ai progettisti, al cliente finale), e che non potrà essere considerata solo in relazione alla corretta esecuzione dei servizi che formano l’oggetto contrattuale (in termini di fornitura dei servizi richiesti), ma dovrà coprire ogni ulteriore obbligazione assunta, sul cui corretto adempimento potranno influire in tutto o in parte le operazioni della tecnologia AI utilizzata.

E’ stato sopra riportato l’esempio delle clausole di riservatezza, ma sono tante altre le previsioni contrattuali potenzialmente coinvolte, dalle disposizioni in materia di tutela dei dati personali, a quelle su modifiche, discostamenti e variazioni dei servizi resi.

Sono state qui brevemente illustrate solo alcune delle problematiche che emergono nella regolazione delle relazioni contrattuali che prevedono l’utilizzo di tecnologie AI.

Si pongono, tuttavia, anche ulteriori e complessi profili, che esulano dalla regolazione dello specifico rapporto contrattuale tra le parti, e abbracciano tematiche di più ampio respiro, talvolta addirittura a livello micro e macroeconomico. Di queste ulteriori tematiche ci occuperemo nel nostri successivi articoli.

@RIPRODUZIONE RISERVATA

Articolo 1 di 4