La sanità sta entrando in una nuova fase dell’adozione dell’intelligenza artificiale. Finora il dibattito si è concentrato su strumenti che riassumono le note cliniche, segnalano anomalie, analizzano immagini, confrontano referti o alleggeriscono il carico amministrativo. Casi d’uso utili, che restituiscono al personale medico tempo da dedicare al paziente. Ma oggi l’AI in questo settore si sta muovendo verso qualcosa di diverso.
L’utilizzo dell’AI agentica consente a queste tecnologie di ragionare su un compito, interagire con altri sistemi, agire in autonomia e portare a termine flussi di lavoro complessi. È un potente cambiamento, ma che modifica anche il modello di rischio, in particolare nel mondo della sanità. Un agente AI che accede alla cartella clinica elettronica, programma un appuntamento, interroga dati sanitari o avvia un flusso di fatturazione, non è più soltanto un software, inizia ad assomigliare a un vero membro (digitale) del personale. Ed è così che dovremmo iniziare a gestirlo.
Indice degli argomenti
AI agentica in sanità e linee guida ENISA
In Europa, le “Procurement Guidelines for the Cybersecurity of Hospitals and Healthcare Providers” dell’ENISA – l’Agenzia dell’Unione europea per la cibersicurezza – forniscono un quadro importante per integrare i requisiti di cybersecurity lungo l’intero ciclo di approvvigionamento in ambito sanitario. Queste linee guida affrontano in modo specifico i prodotti abilitati dall’AI e i relativi servizi assistiti, sottolineando che il rischio legato all’AI non si limita alle soluzioni esplicitamente commercializzate come sistemi di intelligenza artificiale. Il rischio può emergere anche da funzionalità integrate in altri prodotti, da integrazioni con servizi di AI esterni e dall’uso dell’AI da parte di fornitori, subappaltatori o altri. Le organizzazioni sanitarie devono quindi andare oltre la funzionalità dichiarata di un prodotto e valutare come queste tecnologie vengono utilizzate, quali dati elaborano, quali fornitori esterni sono coinvolti e come i rischi associati verranno gestiti, anche con terze parti.
Un’impostazione importante, dal momento che in sanità l’identità non è un dettaglio amministrativo, ma una questione di sicurezza del paziente, di privacy e di fiducia. Pertanto se non è permesso a un medico, a un infermiere come a un fornitore o a un amministratore anche con privilegi elevati, di muoversi nei sistemi clinici senza sapere chi è e cosa è autorizzato a fare, anche gli agenti non dovrebbero fare eccezione, anzi, devono richiedere un rigore ancora maggiore.
Perché l’AI agentica cambia il modello di rischio
Gli agenti AI operano in modo continuativo, si muovono a velocità macchina e possono agire o accedere a più sistemi in un singolo flusso di lavoro. Se non sono governati adeguatamente, le conseguenze si amplificano rapidamente dando vita ad accessi impropri a informazioni sanitarie protette, interruzioni operative, automazioni non sicure, modifiche indesiderate di dati clinici.
Le implicazioni sono molto concrete, per esempio un agente AI per la programmazione degli appuntamenti può sembrare comodo, finché non altera la sequenza di cura di un paziente perché ha permessi eccessivi. Lo stesso per un agente che consulta le cartelle, può apparire a basso rischio, finché non accede a informazioni che non ha motivo di vedere. E in sanità, piccole decisioni o azioni possono avere conseguenze reali sui pazienti e i team di cura. Un agente AI con permessi eccessivi è, di fatto, equivalente a un account/identità interna legittima che un attaccante è riuscito a violare, mantenendone però l’aspetto “autorizzato”.
La risposta non è però non adottare agenti AI, la sanità ha bisogno di alleggerire il carico di lavoro e potenziare l’assistenza, ma a patto che l’adozione di queste tecnologie sia anche sicura.
Un badge, un confine e un responsabile
Perché ciò avvenga, ogni agente va dotato di tre elementi: un badge, un confine e un responsabile. Il badge è praticamente l’attribuzione di un’identità unica e gestita che permetta ai responsabili della sicurezza di sapere quali agenti sono stati approvati, a cosa servono, chi ne è proprietario e a quali sistemi possono accedere.
Il confine è il principio del privilegio minimo che stabilisce a quali sistemi e dati può accedere e quali azioni necessarie al flusso di lavoro per cui è stato approvato può eseguire, con conferma umana obbligatoria per le azioni sensibili. In ambito clinico quest’ultima regola è centrale perché l’AI dovrebbe raccomandare, non eseguire in autonomia, modifiche a terapie o a ordini clinici. C’è un divario enorme tra mostrare l’informazione giusta al momento giusto e permettere a un sistema autonomo di intervenire direttamente sulla cura del paziente.
Il terzo elemento – il responsabile – sancisce che gli umani restano titolari della responsabilità. L’AI può potenziare i team clinici e il loro lavoro, ma non può diventare un attore non governato. Al contrario servono monitoraggio, tracciabilità degli accessi, percorsi di escalation e la capacità di limitare o revocare rapidamente un accesso quando qualcosa non torna.
L’identità come piano di controllo
La gestione tradizionale di identità e accessi è nata attorno agli utenti umani, ma la sanità è sempre più digitale e comprende ora anche l’utilizzo sempre più diffuso di agenti AI che hanno bisogno di un accesso appropriato, di governance e di visibilità.
Non basta sapere che un agente ha avuto accesso a una cartella clinica o a dei referti, occorre sapere che cosa ha fatto, perché e, aggiungo, se il comportamento fosse coerente con il flusso di lavoro autorizzato. Anche un comportamento anomalo di un agente deve generare un segnale d’allarme perché la sicurezza non può fermarsi al momento del login, soprattutto nel settore della sanità dove il rischio si manifesta anche nel comportamento nel tempo.
Le organizzazioni dovrebbero pertanto partire da un inventario concreto di dove sono già utilizzati gli agenti AI, chi ne è proprietario, quali possono accedere a dati sensibili o agire in autonomia. Successivamente vanno applicati controlli essenziali.
Agentic Identity Management per ambienti sanitari complessi
In questa prospettiva, sono essenziali soluzioni di Agentic Identity Management pensate per trattare gli agenti AI come identità gestite. Un aspetto centrale, perché la maggior parte degli ambienti sanitari non è stata progettata pensando all’AI agentica, e gli enti, gli ospedali e le strutture dipendono da database, applicazioni legacy e infrastrutture molto spesso prive di API di ultima generazione. Servono quindi modalità sicure per introdurre nuove capacità e maggiore efficienza nei flussi esistenti, senza creare nuove aree cieche. E l’identità è questo strumento.
Vale lo stesso per il monitoraggio continuo, essenziale perché il rischio legato all’agentic AI non riguarda solo la possibilità di un attacco, ma anche che agisca fuori dai confini assegnati. Un agente che accede a un dato che non dovrebbe vedere o segue un percorso inatteso deve essere visibile, con tracce di audit chiare e proprietà nota in ogni momento. Soluzioni di Access Intelligence e Patient Privacy Intelligence supportano questa visibilità, aiutando a comprendere i comportamenti di accesso, rilevare anomalie e mantenersi pronti per gli audit, anche in ottica di compliance a normative come NIS2.
L’AI agentica è un tassello centrale della Digital Transformation della sanità, può aiutare questo settore a essere più efficiente e veloce, ma solo a patto di diventare anche più sicuro. E tutto questo comincia dall’identità.
Partecipa alla community