Proctoring, il software scova chi bara agli esami online. E gli studenti si rivoltano - Agenda Digitale

didattica a distanza

Proctoring, il software scova chi bara agli esami online. E gli studenti si rivoltano

Il proctoring è un nuovo strumento, basato su intelligenza artificiale, che consente di controllare il dispositivo dello studente ad esami o interrogazioni e di acquisire tanti dati per decretare se quello sta copiando oppure no. Ma sono molti i problemi legati alla privacy e non solo. Anche in Italia

25 Nov 2020
Diego Dimalta

Studio Legale Dimalta e Associati

È sempre più comune l’uso delle tecnologie proctoring per controllare che gli studenti non barino a esami o interrogazioni fatte online. Anche in Italia, a partire da alcune università.

Già, perché con la diffusione massiva della didattica a distanza è nata l’esigenza di individuare nuovi modi per testare l’effettivo rendimento scolastico degli studenti. Per alcuni docenti non è difatti pensabile ricorrere a una semplice interrogazione o a un compito in classe classico e ciò in quanto, all’interno della stanza dello studente potrebbe nascondersi ogni tipo di stratagemma per falsare il compito: dal semplice bigliettino a suggeritori nascosti, da libri aperti a maxi-diagrammi riassuntivi.

Ecco quindi arrivare la tecnologia in soccorso dei docenti. Ma ci sono anche problemi applicativi di vario genere.

Cos’è il proctoring

Di preciso, il “proctoring” è un nuova gamma di strumenti, basati su intelligenza artificiale, che consente di controllare il dispositivo dello studente e di acquisire tutto un set di dati che permettono all’algoritmo di decretare se il ragazzo sta copiando oppure no. Proctorio e Respondus sono tra i software più comuni.

WHITEPAPER
Gestione dei contratti e GDPR: guida all’esternalizzazione di attività dei dati personali
Legal
Privacy

Anche in Italia si sta sviluppando velocemente l’utilizzo di tali sistemi. Tra le altre anche l’Università degli Studi di Milano e il Politecnico di Torino si sono dotati di software di proctoring per meglio gestire le interrogazioni a distanza. Ma come funziona questa tecnologia?

Proctorio

Come funziona il proctoring: l’esperienza diretta al Polito

Siamo entrati in contatto con Gioacchino Gioele, studente di Torino, il quale ci spiega come funziona il controllo.

  • Gli studenti si collegano ad una pagina riservata sul sito dell’Università, accedono alla sezione esami, e si avvia una sorta di check preliminare che prevede, tra l’altro, di mostrare l’intera stanza, di testare il funzionamento di microfono e di mostrare la propria carta di identità.
  • Dopo questa fase si avvia l’interrogazione vera e propria dove la telecamera valuta eventuali movimenti sospetti e li marca/mette in evidenza al fine di permettere al docente di rivedere quello specifico istante per capire se, in effetti, lo studente stava copiando o meno.
  • L’identificazione avviene tramite la webcam e tramite il microfono per quanto riguarda eventuali rumori o voci sospette. Per quanto riguarda i movimenti del corpo, c’è massima attenzione sullo sguardo, che se spostato per più secondi in direzione diversa rispetto al fronte dello schermo e se abbassato per alcuni secondi, porta alla comparsa sullo schermo del warning.
  • Oltre a questo, il sw di proctoring registra tutta quella che è l’attività di mouse/touchpad, tastiera e schermo.
  • La scelta finale viene quindi effettuata dal docente e non dal software.
Questo warning che compare anche con una certa frequenza in caso di movimenti del tutto innocenti come il piegarsi per scrivere su un foglio di brutta dei calcoli o altro, ha portato a due reazioni diverse da parte dei docenti. Alcuni hanno deciso di ignorare la maggior parte dei warning, se non quelli più eclatanti, consentendo di scrivere su fogli di brutta ove necessario, mentre altri hanno deciso per una strada più rigida, togliendo direttamente la possibilità di usare fogli, a volte con evidente penalizzazione per gli studenti.

I principali problemi del proctoring

Insomma, per raggiungere lo scopo prefissato i sistemi di proctoring si servono di tutti gli strumenti possibili. Telecamera del computer, audio, mouse. Qualsiasi cosa da cui potrebbe emergere un dato importante viene controllata dal software.

C”è massima attenzione, in particolare, sullo sguardo, che se spostato per più secondi in direzione diversa rispetto al fronte dello schermo e se abbassato per alcuni secondi, porta alla comparsa sullo schermo del warning. Non sappiamo se oltre a questi warning visibili anche dagli studenti, i docenti ricevano altre forme di segnalazione.

Il problema è che spesso questi warning appaiono a sproposito, magari anche solo per movimenti innocenti. Per capirci, quante volte vi capita che, a seguito di una domanda impegnativa, voi iniziate a fissare un punto nel nulla? Ecco questa cosa sarebbe letta dalla macchina come un tentativo di leggere un fantomatico bigliettino, con relativa segnalazione dell’anomalia. Per questo, spesso, i docenti sono costretti ad ignorare la gran parte dei segnali risultando il proctoring sicuramente meno efficace di quanto sperato.

Ora, al di là di quelli che possono essere i difetti strettamente funzionali di questi sistemi, a parere di chi scrive i problemi principali da evidenziare sono due:

  • la mole di dati ceduta a terzi,
  • la comparsa di bias capaci di incidere sull’autodeterminazione della volontà del software.

Partiamo dal primo punto, il trattamento dati. A tal riguardo è importante che gli istituti scolastici e le università non sottovalutino i rischi derivanti da simili sistemi. le istituzioni devono difatti ricordare che i dati non vengono trattati dalla scuola ma da società private straniere le quali, pertanto, dovranno essere compliant con il GDPR. Del resto, come noto, sono le scuole e le università a rispondere per la scelta dei sistemi, compresi quelli di proctoring. Eventuali violazioni da parte di questi sistemi comporteranno quindi importanti sanzioni a carico dei singoli istituti o atenei.

Le sfide privacy

In tal senso il DPO dovrà valutare ogni singolo aspetto. Un esempio? Dove conservano e dove processano i dati questi sistemi di proctoring? Uno dei sistemi più famosi è quello distribuito con il nome di Proctorio. Sul sito ufficiale è presente una sezione molto dettagliata riguardante il trattamento dati.

Esaminando l’informativa incappiamo però in questo paragrafo:

“International Data Transfers & Third-Party Disclosures – where Proctorio stores or transfers personal information outside the EU, we have robust procedures and safeguarding measures in place to secure, encrypt and maintain the integrity of the personal information. Our procedures include a continual review of the countries with sufficient adequacy decisions, as well as provisions for binding corporate rules; standard data protection clauses or approved codes of conduct for those countries without. We carry out strict due diligence checks with all recipients of personal information to assess and verify that they have appropriate safeguards in place to protect the information, ensure enforceable data subject rights and have effective legal remedies for data subjects where applicable”.

Ora, in primo luogo fa riflettere il fatto che non venga menzionato un luogo preciso dove sarebbero allocati i server. A ciò si aggiunga il fatto che Proctorio è un progetto americano circostanza questa che fa ritenere che quando nell’informativa affermano che inviano i dati solo in nazioni sicure, tra queste, a loro modo di vedere, potrebbero esserci tranquillamente anche gli Stati Uniti che, come sappiamo, in realtà per la Corte di Giustizia Europea e per l’EDPB non sono più da ritenere una nazione sicura.

Il Washington Post, proprio con riferimento a Proctorio, afferma che in USA è in atto una rivoluzione da parte degli studenti i quali non accettano l’utilizzo di un simile sistema così invasivo. In particolare, viene riportato il caso di Jesse Stommel, insegnante e fondatore di una rivista accademica, Hybrid Pedagogy, che ha accusato pubblicamente Proctorio affermando di essere stato inondato di lettere di studenti che si sentono male all’idea di doversi sottoporre a simili trattamenti di dati capaci di creare un forte stato d’ansia in quanto eccessivamente rigidi.

Le sfide cybersecurity

Anche la sicurezza è un grosso problema. Il 27 luglio la società ProctorU ha dichiarato di aver subito un data breach che ha causato la perdita di riservatezza di circa 444.000 records. Dati biometrici, immagini di camere da letto, voce… alcune delle informazioni più intime sono state acquisite da criminali informatici. Insomma, la necessità di evitare bigliettini durante le interrogazioni può davvero giustificare tutto questo?

L’impatto psicologico

Il punto è questo: le università si rendono conto delle conseguenze negative derivanti dall’utilizzo di questi sistemi? E soprattutto le università e scuole possono davvero obbligare gli studenti ad utilizzare i software di proctoring? La domanda è lecita considerando che gli stessi, di sicuro per funzionare necessitano del consenso non esistendo altre basi giuridiche utilizzabili. Ma questo consenso può dirsi libero? A parere di chi scrive la risposta è negativa in quanto laddove lo studente negasse l’utilizzo di un simile sistema non potrebbe accedere all’esame e, quindi, il consenso è da ritenersi assolutamente forza e di conseguenza non in linea con quanto prevede il GDPR.

I (soliti) pregiudizi

Esistono però altri problemi derivanti dal software stesso e dalla possibilità che sia affetto da bias, deviazioni che lo portano a risultati non logici e, in alcuni casi, non etici.

E’ quello che emerge da un’indagine di Venture Beat la quale ha evidenziato che, di fatto, questi sistemi di intelligenza artificiale non funzionano correttamente quando utilizzati da donne di colore. Per questo motivo, Kiana Caton, studentessa californiana impegnata nell’esame di Avvocato, è costretta ad utilizzare luci molto forti durante le prove al fine di far apparire la propria pelle più chiara in modo da evitare i bias del sistema di proctoring. Si tratta di una cosa che ha dell’assurdo. Perché un ragazzo di colore dovrebbe sottoporsi a simili mortificanti stratagemmi per poter sostenere un esame?

Insomma, ancora una volta, l’impressione è che il soluzionismo tecnologico abbia avuto la meglio creando distorsioni inaccettabili. Il proctoring nasce per evitare che gli studenti copino o barino durante gli esami. Ma può questo fine giustificare trattamenti di dati invasivi, rischio di perdita degli stessi, obblighi di consenso e, non da ultimo, umiliazioni come quelle subite da Kiana Caton? La risposta a parere di chi scrive è chiaramente no.

WHITEPAPER
Certificazioni GDPR: tutti i vantaggi per le organizzazioni che vi aderiscono
Legal
Privacy
@RIPRODUZIONE RISERVATA

Articolo 1 di 2