Da diverso tempo una parte rilevante della discussione sull’intelligenza artificiale ruota attorno alla stessa domanda: che cosa succede ai dati che utilizziamo durante le nostre interazioni con i modelli?
È una domanda legittima, soprattutto quando si parla di documenti riservati, informazioni su clienti, contratti, procedure interne o proprietà intellettuale, ma rischia di diventare insufficiente se la usiamo come unico criterio per valutare la sicurezza e la solidità di un sistema AI.
Chi scrive genericamente che i modelli proprietari “rubano i dati” scrive una cosa tecnicamente scorretta, oltre che fuorviante, perché nelle piattaforme enterprise l’utilizzo dei dati, la conservazione delle interazioni, l’isolamento degli ambienti e l’eventuale impiego per l’addestramento sono regolati da configurazioni e condizioni contrattuali ben precise.
Indice degli argomenti
Il lock-in AI oltre la protezione dei dati
Allo stesso tempo, però, sarebbe altrettanto superficiale chiudere la discussione con un rassicurante “i tuoi dati non vengono usati per addestrare il modello”, perché il problema forse più interessante (e troppo spesso sottovalutato) non riguarda soltanto ciò che un’azienda inserisce in un sistema AI, ma anche ciò che costruisce, impara e perfeziona mentre lo utilizza.
Quando un’organizzazione introduce un assistente intelligente, un agente o un sistema di automazione basato su modelli generativi, tende naturalmente a concentrarsi sulle informazioni che vengono fornite in ingresso: documenti, mail, procedure, knowledge base, contratti, dati in genere. Sono elementi da proteggere, ma rappresentano soltanto il punto di partenza.
Nel tempo, attorno al modello si forma infatti un secondo patrimonio, meno visibile ma spesso molto più importante, composto da istruzioni che funzionano, da risposte approvate, da errori corretti, da eccezioni gestite, da casi sottoposti a escalation, da criteri con cui si distingue una risposta accettabile da una sbagliata e da regole attraverso cui il sistema viene progressivamente adattato al modo in cui l’azienda lavora davvero.
Un sistema AI utilizzato per alcuni mesi non vale più soltanto per i documenti che conosce o per la qualità del modello su cui è costruito. Vale per tutto ciò che le persone gli hanno insegnato durante l’utilizzo, per i feedback accumulati, per gli esempi selezionati, per i test costruiti, per le memorie conservate, per le integrazioni realizzate e per le logiche decisionali che sono state introdotte.
Per dirlo in maniera diversa, l’azienda non sta semplicemente consumando un servizio e della tecnologia: sta trasferendo progressivamente una parte del proprio modo di operare dentro un sistema.
Il patrimonio costruito durante l’utilizzo
Immaginiamo di costruire un assistente per il servizio clienti. Il primo giorno può avere accesso ai cataloghi, alle condizioni contrattuali e alle procedure ufficiali, ma dopo alcuni mesi il suo valore dipenderà soprattutto da tutto ciò che non era scritto nei manuali: dalle correzioni degli operatori, dai casi particolari, dalle modalità con cui vengono riconosciuti un reclamo, una richiesta sensibile o un cliente insoddisfatto, dai casi nei quali è possibile rispondere automaticamente e da quelli in cui occorre coinvolgere una persona.
Il valore, a questo punto, non risiede più soltanto nel modello o nei dati iniziali, ma nel sistema di apprendimento che si è formato attorno a essi.
È qui che la discussione cambia natura, perché prompt, feedback, evaluation set, trace, memorie, workflow, configurazioni, integrazioni e regole decisionali non sono semplici dettagli tecnici. Sono conoscenza aziendale: sono il risultato di tempo, lavoro, esperienza e iterazioni, eppure molte imprese non sanno con precisione dove questo patrimonio venga conservato, quanto sia esportabile, in che misura sia separabile dalla piattaforma che lo ospita e soprattutto che cosa succederebbe nel momento in cui decidessero di cambiare tecnologia.
Come il lock-in AI trattiene il valore aziendale
Il rischio, quindi, non è necessariamente che qualcuno utilizzi i nostri dati per addestrare un modello generale. Il rischio più concreto è che il valore prodotto dall’azienda resti intrappolato dentro una piattaforma, un sistema di memoria, un motore di orchestrazione o un insieme di processi difficili da trasferire altrove.
L’impresa pensa di stare acquistando intelligenza artificiale, ma nel frattempo sta costruendo una parte del proprio capitale conoscitivo dentro un ambiente che potrebbe non controllare fino in fondo.
Per questo motivo il lock-in, nel mondo dell’AI, è più sottile di quello a cui siamo abituati. Non riguarda soltanto la possibilità di esportare i dati o cambiare fornitore cloud. Un’azienda potrebbe essere perfettamente in grado di trasferire documenti e database, ma non riuscire a ricostruire le valutazioni accumulate nel tempo, le memorie del sistema, le integrazioni con gli strumenti aziendali, i trace che spiegano perché sono state prese determinate decisioni o i meccanismi con cui il sistema è stato migliorato.
Come dire: potrebbe portare via i dati, ma non ciò che ha imparato usandoli.
Perché la portabilità diventa una questione industriale
È un problema industriale, non una sottigliezza tecnica, perché il vero vantaggio competitivo non nasce dall’aver scelto oggi il modello più potente, ma dalla capacità di accumulare conoscenza senza legarla in modo irreversibile alla tecnologia del momento.
I modelli cambiano rapidamente, migliorano, diventano più economici e vengono sostituiti da nuove generazioni; il patrimonio costruito dall’azienda, invece, dovrebbe rimanere disponibile, trasferibile e riutilizzabile.
La questione vera è capire se le correzioni possono essere esportate, se i test con cui misuriamo la qualità appartengono all’impresa, se le memorie sono governabili, se il comportamento del sistema può essere ricostruito, se è possibile sostituire il modello senza perdere ciò che è stato costruito e se l’orchestrazione resta separata dalla singola tecnologia utilizzata in un determinato momento. Sono domande meno spettacolari delle classifiche tra modelli, ma sono quelle che determinano la solidità di un progetto.
Evitare il lock-in AI con un’architettura sostituibile
Una buona architettura AI dovrebbe consentire di cambiare modello senza dover ricostruire l’intero sistema. Il valore dovrebbe rimanere nei dati, nella conoscenza validata, nei criteri di valutazione, nelle regole di processo, nelle memorie governate, nei feedback e nelle integrazioni, mentre il modello dovrebbe essere trattato come una componente importante ma sostituibile.
Oggi potrà essere conveniente utilizzare un modello molto potente per le attività più complesse, domani uno più piccolo ed economico per quelle ripetitive, in altri casi un modello specializzato o open source. Il vantaggio non consiste nell’essere fedeli a un modello, ma nel poter scegliere ogni volta quello più adatto senza perdere il lavoro accumulato.
Le aziende hanno trascorso anni a costruire regole per proteggere dati, documenti e proprietà intellettuale. Ora devono estendere lo stesso ragionamento a ciò che i sistemi AI imparano durante l’utilizzo, perché il patrimonio non è più soltanto ciò che entra nel sistema, ma anche ciò che viene prodotto mentre il sistema lavora.
La domanda, quindi, non è soltanto se il fornitore userà i nostri dati.
La domanda è dove resterà il valore che avremo costruito.
Partecipa alla community