“Perdere il controllo del futuro a favore dell’AI”. È un concetto espresso recentemente da Sam Altman, CEO di OpenAI, parlando degli scenari che potrebbero diventare particolarmente problematici con l’evoluzione dei sistemi di intelligenza artificiale. Altman ha sottolineato che, all’aumentare delle capacità dei modelli, devono crescere di pari passo anche la possibilità di monitorarli e la capacità di mantenerli allineati agli obiettivi e ai valori umani.
Detta così, la questione sembra appartenere a un futuro lontano, fatto di sistemi superintelligenti e scenari da fantascienza.
Ma c’è un altro modo di leggere quella stessa preoccupazione.
Un modo molto più vicino alla realtà quotidiana delle imprese.
Il tema del “controllo” dell’intelligenza artificiale non comincia necessariamente quando una macchina diventa più intelligente dell’uomo. Può cominciare molto prima: nel momento in cui un’organizzazione decide di affidare a un sistema di AI una parte di un processo, una valutazione o una decisione.
Ed è qui che la questione diventa particolarmente interessante per chi si occupa di persone, organizzazione e risorse umane.
Indice degli argomenti
Dall’automazione alla governance dell’AI nelle risorse umane
Per anni la digitalizzazione ha avuto un obiettivo abbastanza chiaro: automatizzare attività.
Un software eseguiva un processo definito. Un gestionale organizzava informazioni. Un algoritmo seguiva regole stabilite in anticipo.
L’intelligenza artificiale introduce un passaggio diverso.
Un sistema di AI può interpretare informazioni non strutturate, individuare correlazioni, generare contenuti, formulare ipotesi, suggerire una scelta e, nei sistemi più avanzati, utilizzare strumenti ed eseguire azioni.
Il salto non è quindi soltanto tecnologico. È organizzativo.
Passiamo progressivamente da una tecnologia che esegue ciò che abbiamo definito a una tecnologia alla quale possiamo chiedere di raggiungere un obiettivo, lasciandole una parte crescente della strada da percorrere.
È la differenza tra automazione e autonomia.
E questa differenza cambia anche il modo in cui dobbiamo pensare al lavoro.
Processi HR e AI: quale parte della decisione delegare
Quando introduciamo una nuova tecnologia, la prima domanda è quasi sempre: quali attività possiamo automatizzare?
Con l’AI, forse, dovremmo iniziare a porci una domanda diversa: quale parte del processo siamo disposti a delegare?
Pensiamo alla selezione del personale.
Possiamo utilizzare l’AI per preparare una sintesi di centinaia di curriculum, evidenziare competenze o confrontare profili rispetto a determinati requisiti.
Ma possiamo fare un passo ulteriore e chiederle di individuare automaticamente i candidati da convocare.
A quel punto non stiamo più semplicemente automatizzando un’attività amministrativa.
Stiamo trasferendo una parte del processo decisionale a un sistema.
Lo stesso vale per la formazione. L’AI può analizzare le competenze disponibili, individuare possibili gap e suggerire percorsi di sviluppo.
Chi stabilisce che quel gap sia davvero prioritario? Chi verifica che i dati siano corretti? Chi considera elementi che non sono presenti nei dati ma che, nel contesto organizzativo, possono essere rilevanti?
Sono domande che non hanno una risposta esclusivamente tecnologica.
Entriamo nel terreno della governance.
Responsabilità umana nelle decisioni supportate dall’AI
L’AI può supportare una decisione, ma non elimina automaticamente la responsabilità di chi quella decisione la prende.
Questo diventa particolarmente delicato quando l’intelligenza artificiale entra in processi che riguardano direttamente le persone.
Se un sistema supporta una selezione, chi è responsabile del risultato?
Se individua una possibile anomalia nelle performance, chi decide se quell’anomalia abbia davvero un significato?
Se un algoritmo contribuisce a definire priorità, opportunità o percorsi professionali, quali sono i meccanismi attraverso i quali una persona può contestare, correggere o comprendere quella decisione?
Sono questioni che portano l’AI fuori dal perimetro del semplice software.
E la governance, nelle organizzazioni, non può essere delegata interamente all’IT.
HR e Digital nella governance dell’intelligenza artificiale
Una delle conseguenze più interessanti dell’introduzione dell’AI nelle imprese è proprio questa: tecnologia e organizzazione diventano ancora più interdipendenti.
Il Digital può occuparsi di sicurezza, architetture, integrazione dei sistemi, dati, accessi e monitoraggio.
L’HR porta invece una conoscenza diversa: processi organizzativi, competenze, cultura aziendale, responsabilità, persone e impatto delle decisioni.
Nessuna delle due prospettive è sufficiente da sola.
Un modello può essere tecnicamente affidabile e produrre comunque una decisione organizzativamente inappropriata.
Allo stesso modo, un processo HR può essere perfettamente progettato sulla carta, ma diventare rischioso se i dati utilizzati dall’AI sono incompleti, distorti o interpretati fuori dal loro contesto.
Per questo l’introduzione dell’AI dovrebbe essere considerata sempre meno come un semplice progetto tecnologico e sempre più come un progetto di trasformazione organizzativa.
L’efficienza dell’AI e il rischio delle deleghe progressive
C’è poi un aspetto meno evidente.
L’AI potrebbe diventare problematica per un’organizzazione non soltanto quando sbaglia, ma anche quando funziona molto bene.
Sembra un paradosso.
Immaginiamo un sistema capace di produrre analisi in pochi secondi, elaborare migliaia di informazioni e formulare proposte che nella maggior parte dei casi si rivelano utili.
La tentazione sarà quella di affidargli progressivamente più responsabilità.
Prima l’analisi.
Poi la proposta.
Poi l’esecuzione.
Infine, forse, l’intero processo.
Non perché qualcuno abbia deciso esplicitamente di trasferire il controllo alla macchina, ma perché la soluzione appare semplicemente più veloce ed efficiente.
La perdita di controllo potrebbe quindi non arrivare con un momento preciso in cui “la macchina prende il comando”.
Potrebbe essere il risultato di tante piccole deleghe, considerate singolarmente ragionevoli.
Controllo umano e competenze nei processi HR automatizzati
La risposta più immediata è spesso: teniamo un essere umano nel processo.
È un principio importante, ma non è sufficiente.
Un essere umano può essere formalmente presente e, allo stesso tempo, avere un ruolo puramente notarile.
Se un sistema produce cento indicazioni e il professionista si limita ad approvarle perché non ha tempo, strumenti o informazioni per verificarle, il controllo umano esiste solo sulla carta.
Il vero controllo richiede invece competenza.
Significa sapere quando fidarsi dell’output, quando metterlo in discussione e quali domande porre al sistema.
Per questo la trasformazione digitale richiede una nuova forma di alfabetizzazione: non soltanto saper utilizzare l’AI, ma saper governare il rapporto con l’AI.
Governare l’autonomia dell’AI nelle organizzazioni
Il punto, quindi, non è contrapporre innovazione e controllo.
Un’organizzazione che non utilizza l’AI soltanto per paura di sbagliare rischia di perdere opportunità importanti.
Ma anche un’organizzazione che delega senza definire limiti, responsabilità e controlli rischia di trasformare l’efficienza tecnologica in una vulnerabilità organizzativa.
La sfida è trovare un equilibrio.
L’AI deve poter diventare sempre più potente e utile, ma l’organizzazione deve contemporaneamente diventare più capace di comprenderne i limiti, verificarne gli output e intervenire quando necessario.
È significativo che anche nelle riflessioni di Altman emerga la necessità di accompagnare la crescita delle capacità dei modelli con strumenti sempre più efficaci di controllo e sicurezza.
È una logica che può essere applicata anche alle imprese, indipendentemente dal livello di tecnologia utilizzato.
Più autonomia concediamo a un sistema, più sofisticati devono diventare i nostri meccanismi di controllo.
Il futuro del lavoro tra persone e sistemi intelligenti
Il dibattito sull’intelligenza artificiale viene spesso raccontato attraverso una contrapposizione: persone contro macchine.
È una rappresentazione troppo semplice.
La vera trasformazione potrebbe essere molto più interessante.
Non si tratta di decidere chi debba lavorare al posto dell’altro, ma di ridisegnare il modo in cui persone e sistemi intelligenti collaborano.
L’AI può aumentare la capacità di analizzare informazioni, velocizzare processi e liberare tempo da attività ripetitive.
Le persone continuano però ad avere un ruolo fondamentale nel definire obiettivi, priorità, contesto, responsabilità e valori.
Per HR significa ripensare processi e competenze.
Per il Digital significa costruire infrastrutture e sistemi governabili.
Per il management significa stabilire con chiarezza dove termina la delega tecnologica e dove inizia la responsabilità umana.
Forse, alla fine, la domanda più importante non è quanto sarà intelligente l’AI.
È quanto saremo capaci di essere intelligenti nel modo in cui decideremo di utilizzarla.
Perché mantenere il controllo non significa impedire alle macchine di agire.
Significa sapere quando lasciarle agire, con quali limiti e chi deve avere sempre la possibilità di prendere nuovamente il volante.
Partecipa alla community