GLI IMPATTI DELLA AI

Intelligenza artificiale e contratti, che succede se salta il fattore umano

L’utilizzo di sistemi di AI sta facendo saltare i parametri degli accordi per la fornitura di beni e servizi. Spariscono le condizioni determinate dalla “fallibilità” umana, subentrano nuovi paradigmi che aprono a scenari inattesi. Ecco una panoramica dei vantaggi e delle eventuali criticità

Pubblicato il 24 Apr 2019

Niccolò Anselmi

Dentons Europe Studio Legale Tributario

Giangiacomo Olivi

Dentons Europe Studio Legale Tributario

robot-law

L’Intelligenza artificiale sta determinando un capovolgimento nella definizione di obblighi e garanzie delle parti in sede di negoziazione ed esecuzione del rapporto contrattuale.

Questo perché con la scomparsa del “fattore umano” viene meno anche l’applicazione di rimedi legati alla qualità della fornitura. E prendono il sopravvento inedite tipologie di contrattazione. Ecco un’analisi delle nuove modalità negoziali e delle criticità che possono presentarsi.

Nei precedenti articoli (disponibili qui, qui, qui e anche qui) sono state affrontate le principali problematiche che lo sviluppo e la diffusione sempre più ampia dell’Intelligenza Artificiale (di seguito, “AI”) pone in ambito di tutela di dati personali. A partire dal presente post, invece, ci occuperemo di implicazioni e criticità della AI anche in altri ambiti giuridici. Cominceremo, in particolare, analizzando i rapporti tra AI e contratti.

In questo articolo ci occuperemo non tanto di come la AI possa influenzare, velocizzandoli, i processi di scrittura, analisi e redazione dei contratti, quanto dell’impatto che l’utilizzo di tecnologie AI nella prestazione di servizi o nella fornitura di beni può comportare sulla definizione degli obblighi e delle garanzie delle parti, in sede di negoziazione e di esecuzione del rapporto contrattuale.

Perché saltano i vecchi parametri

Per rendere al meglio l’idea dell’importanza dei cambiamenti che si rendono necessari (anche) nella contrattualistica alla luce dello sviluppo delle tecnologie AI, si pensi ai contratti di prestazione di servizi, con particolare riferimento all’outsourcing di servizi (es. business processing).

Tradizionalmente le prestazioni del fornitore sono commisurate alla valutazione del servizio reso da “umani”, con riferimento alle modalità, le tempistiche e altre variabili attraverso le quali tali servizi devono essere prestati (es. mediante i c.d. Service Level Agreements, o “SLA”).

In questi casi, si prevede solitamente l’applicazione di particolari rimedi (penali, sconti sui corrispettivi, ecc.) in caso di ritardi nella fornitura dei servizi, o nell’eventualità in cui la prestazione non sia erogata ad un determinato livello qualitativo (strettamente dipendente dalla “fallibilità umana”, relativo cioè a individui che non erogano perfettamente le prestazioni per una serie di variabili umane quali l’umore, la stanchezza, la puntualità, ecc.).

Un simile equilibrio contrattuale è oggi messo in discussione, nella misura in cui certi servizi non sono più erogati dal fornitore mediante prestazioni rese da “esseri umani” (che sono per definizione “fallibili” e più o meno efficienti a seconda di variabili e fattori di varia natura, personale e ambientale), ma attraverso l’utilizzo di sistemi AI in grado di sostituire, in tutto e per tutto, la componente umana.

In tale ottica, anche considerato l’attuale stato del progresso tecnologico (i sistemi AI sono in grado di reagire alle variabili ambientali e “apprendere” dal pregresso, ma non sono ancora assimilabili a veri e propri esseri senzienti, in termini di umore, stanchezza, ecc.), i termini della questione potrebbero mutare: non si dovrà più ragionare in termini di erogazione “perfetta” o “imperfetta” del servizio, dal momento che il sistema AI dovrebbe garantire, per sua stessa natura, una erogazione sempre “perfetta” (o quantomeno pari ai livelli di servizio predeterminati in fase di negoziazione).

I principali ambiti di trasformazione del contratto

Tutt’al più, salvo alcune importanti eccezioni, il sistema AI può non fornire il servizio in toto, in presenza di una serie di variabili o fattori (es. mancate/errate configurazioni, infrastrutture inadeguate, eventi esterni quali indisponibilità dei sistemi informatici, ecc.).

La questione riguarderà, quindi, principalmente l’erogazione del servizio tout court o l’incident “catastrofico”, piuttosto che i minori disservizi.

Da ciò potrebbero derivare alcune conseguenze, che incidono in modo nelle trattative tra fornitore e committente. Ad esempio:

  • potrebbero perdere rilevanza i meccanismi contrattuali premiali o le limitazioni responsabilità legati a lievi discostamenti dai livelli di servizio garantiti (accettabili nell’ottica della fornitura del servizio da parte di umani, che possono rendere il servizio in modo “non perfetto”, ma difficilmente giustificabili in un contesto di sistemi AI, per il quali servizio o verrebbe erogato perfettamente, o non vorrebbe erogato del tutto);
  • ancora, il fornitore potrebbe dover tutelarsi in caso di conseguenze dovute alla errata interazione tra sistema AI e utilizzatore / committente, non solo negoziando esclusioni di responsabilità, ma anche, nell’interesse di tutte le parti coinvolte, introducendo specifici obblighi di formazione, training e affiancamento del fornitore verso l’utilizzatore / committente, nell’utilizzo dei sistemi AI;
  • si potrebbero sviluppare nuovi meccanismi rimediali a tutela del fornitore, con possibile coinvolgimento di terzi: ad esempio, mediante la stipula di specifiche coperture assicurative.

Clausola di riservatezza, ecco come gestirla con il robot

L’utilizzo di tecnologie AI nella esecuzione del contratto è idoneo a produrre effetti anche su clausole contrattuali di altra natura, che non riguardano direttamente le modalità di prestazione dei servizi.

Si pensi, ad esempio, alle clausole di riservatezza; anche queste si fondano tradizionalmente sul concetto che le informazioni rilevanti ai fini della corretta esecuzione del contratto siano trattate, scambiate ed elaborate tra esseri umani, e siano di conseguenza astrattamente sottoposte alle variabili della fallibilità umana; ad esempio, le persone fisiche coinvolte nelle operazioni di esecuzione del contratto potrebbero consentire l’accesso alle informazioni riservate ad individui non autorizzati per errore, per distrazione, per disattenzione, o per mancato rispetto delle procedure interne di condivisione di informazioni e documenti.

Laddove, in seguito al ricorso a tecnologie AI, la componente umana sia sostituita da quella “robotica”, vengono meno alcuni presupposti per la regolazione dei rapporti tra le parti in senso tradizionale: se l’informazione riservata viene trattata da un sistema AI, potrebbe perdere rilevanza il problema di divulgazione (o comunicazione a terzi non autorizzati) dovuta a distrazioni o disattenzioni della “macchina”. Il mancato rispetto del vincolo di riservatezza, piuttosto, potrebbe essere dovuto a errate, insufficienti o incomplete programmazioni, da parte del soggetto coinvolto o del sistema AI considerato.

Sarà di conseguenza necessario, anche in questo caso, modificare sensibilmente le relazioni contrattuali tradizionali, soprattutto in relazione ai regimi di responsabilità del fornitore del servizio AI: responsabilità che dovrà essere graduata tenendo in considerazione i ruoli specifici di tutti i soggetti coinvolti (dagli sviluppatori del software, al produttore, ai progettisti, al cliente finale), e che non potrà essere considerata solo in relazione alla corretta esecuzione dei servizi che formano l’oggetto contrattuale (in termini di fornitura dei servizi richiesti), ma dovrà coprire ogni ulteriore obbligazione assunta, sul cui corretto adempimento potranno influire in tutto o in parte le operazioni della tecnologia AI utilizzata.

E’ stato sopra riportato l’esempio delle clausole di riservatezza, ma sono tante altre le previsioni contrattuali potenzialmente coinvolte, dalle disposizioni in materia di tutela dei dati personali, a quelle su modifiche, discostamenti e variazioni dei servizi resi.

Sono state qui brevemente illustrate solo alcune delle problematiche che emergono nella regolazione delle relazioni contrattuali che prevedono l’utilizzo di tecnologie AI.

Si pongono, tuttavia, anche ulteriori e complessi profili, che esulano dalla regolazione dello specifico rapporto contrattuale tra le parti, e abbracciano tematiche di più ampio respiro, talvolta addirittura a livello micro e macroeconomico. Di queste ulteriori tematiche ci occuperemo nel nostri successivi articoli.

Valuta la qualità di questo articolo

La tua opinione è importante per noi!

EU Stories - La coesione innova l'Italia

Tutti
Iniziative
Analisi
Social
Video
Agevolazioni
A febbraio l’apertura dello sportello Mini Contratti di Sviluppo
Quadri regolamentari
Nuovi Orientamenti sull’uso delle opzioni semplificate di costo
Coesione
Nuovo Bauhaus Europeo (NEB): i premi che celebrano innovazione e creatività
Dossier
Pubblicato il long form PO FESR 14-20 della Regione Sicilia
Iniziative
400 milioni per sostenere lo sviluppo delle tecnologie critiche nel Mezzogiorno
Formazione
“Gian Maria Volonté”: dalle aule al mondo del lavoro, focus sui tirocini della Scuola d’Arte Cinematografica
TRANSIZIONE ENERGETICA
Il ruolo del finanziamento BEI per lo sviluppo del fotovoltaico in Sicilia
Formazione
“Gian Maria Volonté”: dalla nascita ai progetti futuri, focus sulla Scuola d’Arte Cinematografica. Intervista al coordinatore Antonio Medici
MedTech
Dalla specializzazione intelligente di BionIT Labs una innovazione bionica per la disabilità
Finanza sostenibile
BEI e E-Distribuzione: investimenti per la sostenibilità energetica
Professioni
Servono competenze adeguate per gestire al meglio i fondi europei
Master
Come formare nuove professionalità per governare e gestire al meglio i fondi europei?
Programmazione UE
Assunzioni per le politiche di coesione: prossimi passi e aspettative dal concorso nazionale. Il podcast “CapCoe. La coesione riparte dalle persone”
innovazione sociale
Rigenerazione urbana: il quartiere diventa un hub dell’innovazione. La best practice di San Giovanni a Teduccio
Programmazione europ
Fondi Europei: la spinta dietro ai Tecnopoli dell’Emilia-Romagna. L’esempio del Tecnopolo di Modena
Interventi
Riccardo Monaco e le politiche di coesione per il Sud
Iniziative
Implementare correttamente i costi standard, l'esperienza AdG
Finanziamenti
Decarbonizzazione, 4,8 miliardi di euro per progetti cleantech
Formazione
Le politiche di Coesione UE, un corso gratuito online per professionisti e giornalisti
Interviste
L’ecosistema della ricerca e dell’innovazione dell’Emilia-Romagna
Interviste
La ricerca e l'innovazione in Campania: l'ecosistema digitale
Iniziative
Settimana europea delle regioni e città: un passo avanti verso la coesione
Iniziative
Al via il progetto COINS
Eventi
Un nuovo sguardo sulla politica di coesione dell'UE
Iniziative
EuroPCom 2024: innovazione e strategia nella comunicazione pubblica europea
Iniziative
Parte la campagna di comunicazione COINS
Interviste
Marco De Giorgi (PCM): “Come comunicare le politiche di coesione”
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politiche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia
Agevolazioni
A febbraio l’apertura dello sportello Mini Contratti di Sviluppo
Quadri regolamentari
Nuovi Orientamenti sull’uso delle opzioni semplificate di costo
Coesione
Nuovo Bauhaus Europeo (NEB): i premi che celebrano innovazione e creatività
Dossier
Pubblicato il long form PO FESR 14-20 della Regione Sicilia
Iniziative
400 milioni per sostenere lo sviluppo delle tecnologie critiche nel Mezzogiorno
Formazione
“Gian Maria Volonté”: dalle aule al mondo del lavoro, focus sui tirocini della Scuola d’Arte Cinematografica
TRANSIZIONE ENERGETICA
Il ruolo del finanziamento BEI per lo sviluppo del fotovoltaico in Sicilia
Formazione
“Gian Maria Volonté”: dalla nascita ai progetti futuri, focus sulla Scuola d’Arte Cinematografica. Intervista al coordinatore Antonio Medici
MedTech
Dalla specializzazione intelligente di BionIT Labs una innovazione bionica per la disabilità
Finanza sostenibile
BEI e E-Distribuzione: investimenti per la sostenibilità energetica
Professioni
Servono competenze adeguate per gestire al meglio i fondi europei
Master
Come formare nuove professionalità per governare e gestire al meglio i fondi europei?
Programmazione UE
Assunzioni per le politiche di coesione: prossimi passi e aspettative dal concorso nazionale. Il podcast “CapCoe. La coesione riparte dalle persone”
innovazione sociale
Rigenerazione urbana: il quartiere diventa un hub dell’innovazione. La best practice di San Giovanni a Teduccio
Programmazione europ
Fondi Europei: la spinta dietro ai Tecnopoli dell’Emilia-Romagna. L’esempio del Tecnopolo di Modena
Interventi
Riccardo Monaco e le politiche di coesione per il Sud
Iniziative
Implementare correttamente i costi standard, l'esperienza AdG
Finanziamenti
Decarbonizzazione, 4,8 miliardi di euro per progetti cleantech
Formazione
Le politiche di Coesione UE, un corso gratuito online per professionisti e giornalisti
Interviste
L’ecosistema della ricerca e dell’innovazione dell’Emilia-Romagna
Interviste
La ricerca e l'innovazione in Campania: l'ecosistema digitale
Iniziative
Settimana europea delle regioni e città: un passo avanti verso la coesione
Iniziative
Al via il progetto COINS
Eventi
Un nuovo sguardo sulla politica di coesione dell'UE
Iniziative
EuroPCom 2024: innovazione e strategia nella comunicazione pubblica europea
Iniziative
Parte la campagna di comunicazione COINS
Interviste
Marco De Giorgi (PCM): “Come comunicare le politiche di coesione”
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politiche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia

Articoli correlati