Sorveglianza algoritmica

La tecnologia per spiare il lavoratore: ma così (anche) l’economia soffre

Un abuso dei sistemi di monitoraggio e misurazione del lavoro da remoto rischia di creare problemi non solo ai lavoratori, ma alla società nel suo complesso. Ecco i paradossi e i pericoli che si corrono e come far sì che invece questi strumenti si rivelino in un incremento associato ad un benessere sociale e organizzativo

03 Lug 2020
Paolino Madotto

manager esperto di innovazione, blogger e autore del podcast Radio Innovazione

Thanks to Tobias Tullius for sharing their work on Unsplash

Le nuove tecnologie per la sorveglianza nei luoghi di lavoro hanno cominciato a diffondersi e ad essere raccontate nelle cronache dei giornali internazionali molto prima del coronavirus. Il Covid e la massiccia adozione forzata di “smart working” (nell’accezione di telelavoro) hanno però spinto, negli USA e in altri paesi dove le leggi lo consentono, all’allargamento dell’adozione di tecnologie di controllo del lavoro a distanza.

Tutto questo apre una serie di interrogativi che occorre affrontare per evitare abusi nella relazione tra aziende e lavoratori (a tutto svantaggio di questi ultimi) e fare in modo che l’utilizzo di forme di controllo remoto dei lavoratori sia orientato non solo a produrre profitti ma anche per generare vantaggio competitivo di medio-lungo termine. Questo è possibile solo coinvolgendo e responsabilizzando i lavoratori, come aveva preconizzato già 70 anni fa Adriano Olivetti.

Il tema del monitoraggio e del controllo delle attività e dei processi all’interno delle organizzazioni, del resto, è un tema centrale al fine di consentire alle stesse organizzazioni di lavorare. Migliorare i processi significa anzitutto misurarli e monitorarli affinché le singole attività possano essere coordinate e produrre risultati generali, per mettere a disposizione del management le informazioni necessarie a prendere le decisioni.

Ma le nuove tecnologie, se da una parte consentono di migliorare tale rapporto e di migliorare l’autonomia e la partecipazione del lavoratore dall’altra possono essere utilizzate in modo punitivo e con un ruolo di sorveglianza più che di supervisione.

Autonomia, responsabilizzazione e produttività: la lezione di Olivetti

Anni di management science hanno dimostrato che la maggiore compartecipazione del lavoratore e una maggiore autonomia non implicano un decadimento della produttività o dei margini ma al contrario possono rivelarsi in un incremento associato ad un benessere sociale organizzativo. Ovviamente questo presuppone una volontà in tal senso da parte del lavoratore e dell’azienda all’interno di un rapporto di collaborazione di lungo termine. Come ha avuto modo di dimostrare Adriano Olivetti che già negli anni ’50 applicava molte visionarie teorie, per quei tempi, di management apprese negli USA, una maggiore autonomia e responsabilizzazione spingono di molto la produttività. Si racconta che in occasione di una visita alla fabbrica Olivetti di una delegazione dell’URSS quest’ultima era stupita di come la Olivetti potesse avere una produttività molto più alta delle loro fabbriche e con una qualità imparagonabilmente migliore. Questo malgrado in URSS fossero i tempi dello stakhanovismo e vigevano misure alquanto coercitive sulle attività degli operai. Stesse domande se le facevano gli altri industriali italiani che adottavano metodi coercitivi alla produzione.

Nuove tecnologie e monitoraggio del lavoro: distorsioni e rischi

Molte storie legate all’uso delle nuove tecnologie per il monitoraggio sui luoghi di lavoro, con analisi e riflessioni, sono state raccolte in due report che sintetizzano quanto è emerso da due ricerche e provano a fare alcune considerazioni.

Il primo report è di AINow, una organizzazione della New York University finanziata da imprese e altre organizzazioni che studia le implicazioni dell’intelligenza artificiale nella vita di tutti i giorni ed è nata nel 2017.

Il secondo di Data&Society, una organizzazione indipendente interdisciplinare che studia le implicazioni dell’uso dei dati nella società e che ha tra i suoi finanziatori aziende ed organizzazioni no profit e opera dal 2013 anche su questi temi.

Sono due report del 2019 che consentono di avere una panoramica di come sta evolvendo l’uso di tecnologie pervasive all’interno dei luoghi di lavoro volte al controllo delle attività e alla gestione automatizzata dei task. Un uso che ad una prima lettura va a modificare il rapporto di lavoro in favore del datore di lavoro. Il ricorrere all’orario “iperflessibile”, al controllo continuo e alla programmazione anche delle microattività produce in un primo momento un aumento dei profitti sia attraverso uno stress più elevato (fino al burnout), sia una riproposizione di regimi di “cottimo”. Con una lettura più attenta si vede che questo stile manageriale produce degli effetti distorsivi che impediscono ai datori di lavoro di utilizzare al pieno le potenzialità dei lavoratori, anche con alcuni paradossi.

Prendiamo il caso dell’hotel Philadelphia Marriott Downtown, dove un app scandisce i tempi di lavoro e le attività degli inservienti chiamandoli in funzione delle necessità dell’albergo in una estrema flessibilità che rende impossibile loro l’organizzazione della giornata extra lavorativa. Viene tracciato il tempo di pulizia delle stanze e pianificato quali stanze e in quali momenti devono essere sistemate. Questa maniacale organizzazione del lavoro tuttavia non tiene conto che l’esperienza dei lavoratori spesso può condurre ad una migliore organizzazione. Anche in questi lavori apparentemente solo manuali la conoscenza delle abitudini dei clienti e dell’organizzazione dell’albergo consente di fare prima una stanza vuota, ottimizzare la presenza sui piani, accompagnare le esigenze degli ospiti che hanno culture e abitudini diverse (un cliente asiatico guarda più alcuni aspetti che non considera un italiano). L’app dell’hotel portava ad esempio gli inservienti in giro per i piani in modo eccessivo, creando perdite di tempo (che venivano conteggiate come tali anche se generate dalla app). Intorno a questa app si è venuta a creare una forte contestazione che ha pesato anche sull’immagine pubblica dell’albergo.

Una cosa simile avviene anche nel caso dei CRM dove l’operatore spesso sviluppa una sensibilità ed esperienza nella gestione della chiamata che non può essere codificata in un algoritmo, anche se si sono diffusi sempre più sistemi come “Cogito”, in grado di ascoltare la chiamata e valutarla in termini di toni di voce, tempi, pause, etc, etc, per poi misurarle tramite un rating che andrà a pesare sulle performance dell’operatore. Anche qui la “chiamata media” non tiene conto della cultura del cliente che chiama, del suo grado di istruzione, etc. con possibili compromissioni in termini di servizio reso e qualità percepita.

WEBINAR - 3 NOVEMBRE
CISO as a Service: perché la tua azienda ha bisogno di un esperto di Cyber Security?
Sicurezza
Cybersecurity

Oggi, attraverso opportuni software che operano in alcuni casi come malware, è possibile misurare quante battute di tastiera vengono effettuate sul proprio computer, cosa si sta vedendo (ad esempio con l’uso di applicazioni che prendono il controllo della telecamera), le pause, i documenti aperti, il traffico di rete che entra ed esce dal nostro computer. Questo ha un impatto sui “white collar” dei servizi come i backoffice di banche e assicurazioni ma perfino il lavoro infermieristico e in ospedale, o sul mondo variegato del lavoro autonomo intellettuale. La startup Upworks, ad esempio, consente di contrattualizzare freelence quando necessario. La piattaforma incorpora strumenti di controllo in modo che il cliente possa controllare quando, dove e come il freelance svolge il suo lavoro. Upwork offre uno strumento chiamato “Work Diary”, che conta i tasti premuti, i click del mouse e prende periodicamente screenshot delle schermate dei computer dei freelancer, oltre ad altre metriche. Ai clienti viene poi mostrato un “Misuratore di attività” che visualizza i dati minuto per minuto sull’attività lavorativa del freelance.

Questa forma di monitoraggio misura il lavoro solo attraverso la quantificazione di ciò che può essere effettivamente misurato. Le attività più intangibili come pensare, studiare argomenti inerenti al lavoro, farsi venire delle idee, pianificare le attività di lavoro o valutare i propri progressi non possono essere facilmente misurate. Questo solleva enormi interrogativi su come certi tipi di lavoro possano essere svalutati o non pagati in modo adeguato perché non possono essere misurati a distanza nello stesso modo di come si può fare con la pressione dei tasti. Una citazione di Albert Einstein dice: “La gente adora spaccare la legna. In quest’attività i risultati si vedono subito”.

Questi strumenti non solo rischiano di essere un problema per il dipendente ma un problema per l’intera società, se stiamo vivendo nella società della conoscenza la semplice misurazione delle performance in base alla quantità rischia di portare anche le persone che hanno livelli di formazione elevati a non impegnarsi nel processo creativo di migliorare il lavoro che stanno facendo, trovare soluzioni nuove, aumentare l’esperienza, investire nella crescita propria e in quella dell’azienda.

Le quattro categorie di algoritmi per il controllo a distanza del lavoro

In generale gli strumenti di “algorithmic worker management and control systems” possono essere riassunti in quattro categorie:

  • Strumenti di previsione e segnalazione che mirano a prevedere le caratteristiche o i comportamenti dei dipendenti o che sono progettati per identificare o scoraggiare la percezione di violazioni delle regole o frodi. Considerati utili strumenti di gestione, possono però aumentare le pratiche discriminatorie nelle valutazioni sui risultati del lavoro svolto e dividere la forza lavoro in categorie di rischio in base a modelli di comportamento o altri parametri. Ad esempio, attraverso questa categoria di strumenti si è visto che vengono in particolare penalizzati i lavoratori in base alla razza o nazionalità.
  • Strumenti di raccolta di dati biometrici e sanitari dei lavoratori attraverso dispositivi indossabili, le applicazioni per il monitoraggio del fitness e i sistemi di analisi biometrica come parte dei programmi di assistenza sanitaria e/o benessere offerti dall’azienda sul luogo di lavoro e strumenti per il monitoraggio digitale dei turni di lavoro (ad esempio per i turnisti). In questi casi, il tracciamento delle attività e delle informazioni non legate al lavoro, come i dati sanitari, può andare ben oltre i confini della privacy dei lavoratori e aprire la strada alla discriminazione attraverso una profilazione pervasiva.
  • Monitoraggio a distanza e tracking del tempo utilizzati per gestire i lavoratori e misurare le prestazioni a distanza. Le aziende possono utilizzare questi strumenti per decentralizzare e ridurre i costi ingaggiando aziende in subappalto (terzisti) e “lavoratori indipendenti”, pur essendo in grado di esercitare un controllo su di essi come i dipendenti tradizionali con l’aiuto di strumenti di monitoraggio a distanza. Sistemi più sofisticati di misurazione posso essere utilizzati per facilitare anche decurtazioni salariali (la startup instacart permette di inserire la mancia in fase di acquisto ma questa poi viene presa dall’azienda senza essere data al lavoratore) o per consentire ai datori di lavoro di tagliare ciò che dovrebbe essere conteggiato come tempo di lavoro retribuito (evitando di conteggiare pause o tempi morti determinati dall’app).
  • Gamification e gestione algoritmica delle attività lavorative attraverso la raccolta continua di dati. La tecnologia può assumere funzioni di gestione, come l’invio di notifiche automatiche ai lavoratori o l’adeguamento dei benchmark di performance in base ai progressi in real time del lavoratore (ad esempio modificando in tempo reale il target da raggiungere), mentre la gamification trasforma le attività lavorative in dinamiche competitive, simili a quelle del gioco, guidate da metriche di performance (ad esempio premiando o penalizzando in base ad obiettivi definiti dall’algoritmo). L’uso di queste tecniche possono creare ambienti di lavoro punitivi che mettono sotto pressione i lavoratori per soddisfare target di efficienza sempre più impegnativi e mutevoli.

Le aree tematiche che emergono dal report di Data&Science

Informazione e potere

Mentre il controllo, la raccolta dei dati e la gestione dei task diventano sempre più intrecciate in pratiche che sfociano in una specie di “algorithmic management”, le motivazioni e i risultati del monitoraggio sul posto di lavoro possono diventare sempre più opache per i lavoratori. C’è un conflitto tra gli sforzi dei lavoratori per raggiungere i propri obiettivi e gli incentivi dei datori di lavoro per mantenere l’opacità informativa su quali siano e come siano misurati che le tecnologie di raccolta dati consentono. Come riassume il Prof Frank Pasquale in una citazione[1] riportata dal report: “se i lavoratori sapessero che trentatré parole di e-mail disseminate di emoticon hanno ottenuto il punteggio più alto, potrebbero scrivere sempre in questo modo”.

L’impossibilità dei lavoratori di conoscere le metriche su cui vengono valutati e dunque di modificare di conseguenza i comportamenti al fine di cambiare il giudizio di valutazione o i criteri di assunzione (La fase di assunzione sta diventando un momento nel quale l’adozione dell’intelligenza artificiale è sempre più diffusa) fornisce alle aziende una posizione negoziale privilegiata a fronte di lavoratori con un potere contrattuale ridotto.

Accuratezza e pregiudizio

Il monitoraggio e la sorveglianza sul posto di lavoro producono una pletora di informazioni sui lavoratori, la maggior parte delle quali è soggetta all’estrazione, all’interpretazione e all’analisi. Tuttavia, in diversi casi si presenta un problema di accuratezza e pregiudizio (bias) come ad esempio nel caso dei test psicometrici finalizzati all’assunzione, dove sempre più esperti sostengono che ci sono poche prove che dimostrano che questi strumenti forniscono informazioni accurate sul fatto che qualcuno sia qualificato per un lavoro. Critiche simili sono state sollevate contro strumenti come il “vocal risk assessment” ma che possono di fatto perpetrare pregiudizi contro i lavoratori in base alla loro categoria di provenienza (per esempio la razza o l’area geografica di provenienza) o ad altri indicatori. Se uno strumento predittivo identifica un dipendente come ad “alto rischio” (ad esempio di infrangere le regole dell’azienda, di cercare di andarsene per un altro lavoro o semplicemente di “perdere tempo”) si pone l’interrogativo sul diritto di appello dei dipendenti a questo tipo di valutazioni e soprattutto sul “processo alle intenzioni” che potrebbe non aver nulla a che fare con la realtà. I casi maggiori di discriminazione sono razziali e sulle fasce di popolazione più debole.

Inoltre, il crescente uso di meccanismi di sorveglianza porta nuovi tipi di dati sotto la ownership dei datori di lavoro e, di conseguenza, comporta un nuovo potenziale strumento di discriminazione sul posto di lavoro. Come dimostra l’esempio dei dispositivi di tracking della salute, esiste una situazione potenziale di “function creep“, poiché i dati raccolti sui lavoratori per un obiettivo (ad esempio con la scusa di incoraggiare il benessere sul posto di lavoro) possono essere riadattati per altri usi (ad esempio l’analisi delle performance dei dipendenti). Questi meccanismi posso rilevare più informazioni del previsto o possono essere utilizzati surrettiziamente per dedurre informazioni sensibili sui dipendenti. La crescente facilità di monitorare e sorvegliare aree come l’attività sui social media dei lavoratori, le abitudini sanitarie, i movimenti fisici e le interazioni sociali può significare che i confini normativi e legali della privacy sul posto di lavoro si stanno spostando verso un utilizzo di dati raccolti in modo sempre più pervasivo. Questo può accadere non solo nei paesi che non hanno una legislazione giuslavoristica stringente ma anche in altri dove nulla vieta che tale monitoraggio non venga comunque effettuato, con le debite proporzioni, anche nell’Europa del GDPR. Questo non accade solo nel caso di dispositivi indossabili come braccialetti, la startup Humanyze a questo scopo ha inserito sensori all’interno del badge.

Valore e salario

I tipi di dati che i datori di lavoro scelgono di raccogliere, rispetto a quelli che vengono ignorati, può avere conseguenze su quali tipi di attività vengono valutati, su come vengono valutate le prestazioni e su come il lavoro viene classificato in termini di compensation. Attraverso il tracking della geolocalizzaizone, il tracking del tempo e il tracking granulare dei task assegnati i datori di lavoro possono impostare sistemi di riduzione dei costi.

Qualità del lavoro

Tutto questo ha un impatto sulla qualità del lavoro.

Attraverso questo pervasivo tracciamento si possono esercitare pressioni dannose sui lavoratori. Ad esempio, un controllo che punta solo alla segnalazione di errori e violazioni delle regole o ad identificare l'”anello più debole” tra i dipendenti può essere utilizzata per classificare ed espellere personale, spingendo i dipendenti a seguire le metriche più stringenti fissate dall’azienda per non essere licenziati anche se già si rispettano i requisiti formali e contrattuali previsti. La crescente misurazione quantitativa delle attività lavorative può anche influire sul senso di autonomia e discrezione dei lavoratori. Nel caso delle tecnologie di monitoraggio a distanza, l’insieme stringente di regole e metriche che regolano ogni azione sul lavoro possono esercitare sui lavoratori una pressione eccessiva affinché seguano esattamente i protocolli, rinunciando ad esempio alla loro sicurezza per soddisfare i parametri di efficienza e spesso pagando le conseguenze di fattori di cui i sistemi di sorveglianza non tengono conto.

Conclusioni

L’uso dell’Intelligenza Artificiale è segnato da continui errori e imperfezioni che tuttavia si “fa finta” che non esistano, un po’ dietro l’opacità degli algoritmi e molto perché talvolta fa comodo credere nell’oggettività e infallibilità delle macchine senza dover rimettere in discussione le distorsioni che l’uomo gli inculca.

Il report di AINow nello specifico del mondo del lavoro raccomanda che i lavoratori abbiano il diritto di contestare questi strumenti, sia per ragioni di correttezza dei rapporti di lavoro (evitare l’asimmetria informativa), sia per una corresponsione equa del salario sulla base di regole predefinite e non mutabili nel corso del rapporto di lavoro. Come abbiamo visto i primi ad avere impatti sono le popolazioni più deboli come i lavoratori immigrati o di colore ma questi strumenti vengono sempre di più diffusi ai “white collar” e personale qualificato. Il report raccomanda anche che i lavoratori dell’Informaton technology abbiano il diritto di sapere cosa stanno costruendo e di contestare gli usi non etici o dannosi del loro lavoro. Negli ultimi due anni, i lavoratori dell’hi tech si sono spesso organizzati (ad esempio in Google o Amazon) e hanno rimesso in discussione le questioni etiche adottato dalle loro aziende sull’IA, in alcuni casi chiedendo la rinuncia o la rinegoziazione di alcuni contratti. Data la natura di utilizzo così ampia della maggior parte delle tecnologie di IA, chi progetta e sviluppa un sistema spesso non è consapevole di come sarà utilizzato. Ad esempio, un modello di riconoscimento degli oggetti addestrato per consentire la sorveglianza aerea potrebbe essere applicato ai soccorsi in caso di calamità con la stessa facilità con cui potrebbe essere applicato al puntamento delle armi. I Codici etici aziendali non sempre sono sufficienti, l’invito del report è verso il legislatore di emanare misure più stringenti.

La relazione tra lavoratore e datore di lavoro e sui metodi scientifici da adottare per il suo governo risale alla nascita della rivoluzione industriale, ha avuto la sua grande esplosione con il fordismo. Tuttavia, decenni di management science (per lo più sviluppatasi negli USA) hanno dimostrato che un approccio repressivo non solo non è in grado di produrre maggiori vantaggi economici per l’azienda ma provocava danni sia in termini di contestazioni all’interno del luogo di lavoro e sia in termini sociali. I maggiori aumenti di produttività e di qualità delle aziende si sono avuti con una adozione di un approccio inclusivo dei lavoratori all’interno dell’azienda. Per non parlare del modello giapponese nel quale il lavoratore è parte del processo di miglioramento continuo del processo lavorativo diventando una delle maggiori leve di crescita del loro sistema industriale.

L’esplosione dell’applicazione della tecnologia ai processi produttivi, almeno fino ad ora, sembra prendere una via contraria a ciò che la scienza del management ha confermato negli ultimi decenni. Si è tornati a considerare il lavoratore come un soggetto da spremere per recuperare valore ma senza capire che il valore economico può andare di pari passo con condizioni migliori (al netto di situazioni ai margini dello schiavismo che però generano vantaggi indebiti tra imprese).

Questo modo di governare la forza lavoro tuttavia produce profitti ma allo stesso tempo non produce vantaggio competitivo di medio-lungo termine. Spesso la manodopera si adatta alla piattaforma, diventa passiva e incapace di immaginare nuove soluzioni, miglioramenti, dare un contributo attivo e positivo, esprimere la propria creatività recando un vantaggio a sé stessa (ottenendo un premio) e all’azienda (apportando una miglioria che la lettura solo dei dati non possono consentire).

Dobbiamo interrogarci se non sia il caso di governare questo processo di cambiamento nel mondo del lavoro, da una parte non rinunciando alle possibilità che questi strumenti possono offrirci ma dall’altra dando un indirizzo positivo a queste tecnologie o ad altre che possono prendere piede a partire da queste.

Ci troviamo di fronte ad un dualismo sempre più marcato tra le aziende che competono per diventare il “Best place to work” dell’anno, per attrarre e mantenere i migliori talenti e il personale con alta scolarizzazione (che negli USA è spesso anche bianco e da noi proviene dai ceti più agiati) e dall’altro una massa sempre più grande di forza lavoro spinta verso salari sempre minori e condizioni di lavoro sempre più penalizzanti.

Può una società come la nostra basata sul consumo di massa e su settori dell’economia sempre più ampi indirizzati al tempo libero sopravvivere con lavoratori che guadagnano sempre meno e hanno sempre meno tempo a disposizione? O questi strumenti di controllo rischiano di diventare un vantaggio per una parte del mondo delle imprese a scapito di altri imprenditori e dell’intera società?

È ancora possibile pensare che in una società dei dati così pervasiva basti la presenza di una legislazione e di autorità che sanzionino gli abusi o non sia necessario immaginare un domani con un governo dei dati centralizzato, anch’esso monitorato continuamente in tempo reale e sottoposto al vaglio continuo di organismi democratici pubblici nei quali siano rappresentati i diversi soggetti coinvolti magari con l’aiuto di algoritmi in grado di verificare il rispetto di regole e usi. Oggi questo appare una opzione futuristica ma certo i progressi delle tecnologie in pochi anni hanno fatto enormi passi da gigante anche se non sempre nella direzione di un vantaggio generale. D’altra parte, anche Adam Smith insieme alla celebre frase sulla “mano invisibile” del mercato ha richiamato la necessità di un insieme di regole morali (e sociali) che incentivino “le mani” al benessere comune.

  1. Pasquale, Frank. The Black Box Society: The Secret Algorithms That Control Money and Information, Reprint edition (Cambridge, Massachusetts London, England: Harvard University Press, 2016); 35.
WHITEPAPER
Come semplificare il sistema di gestione delle identità digitali?
Sicurezza
IAM

@RIPRODUZIONE RISERVATA

Articolo 1 di 4