didattica a distanza

Proctoring, il software scova chi bara agli esami online. E gli studenti si rivoltano

Il proctoring è un nuovo strumento, basato su intelligenza artificiale, che consente di controllare il dispositivo dello studente ad esami o interrogazioni e di acquisire tanti dati per decretare se quello sta copiando oppure no. Ma sono molti i problemi legati alla privacy e non solo. Anche in Italia

25 Nov 2020
Diego Dimalta

Studio Legale Dimalta e Associati

proctoring - educazione civica digitale - Borsa di studio Inps

È sempre più comune l’uso delle tecnologie proctoring per controllare che gli studenti non barino a esami o interrogazioni fatte online. Anche in Italia, a partire da alcune università.

Già, perché con la diffusione massiva della didattica a distanza è nata l’esigenza di individuare nuovi modi per testare l’effettivo rendimento scolastico degli studenti. Per alcuni docenti non è difatti pensabile ricorrere a una semplice interrogazione o a un compito in classe classico e ciò in quanto, all’interno della stanza dello studente potrebbe nascondersi ogni tipo di stratagemma per falsare il compito: dal semplice bigliettino a suggeritori nascosti, da libri aperti a maxi-diagrammi riassuntivi.

Ecco quindi arrivare la tecnologia in soccorso dei docenti. Ma ci sono anche problemi applicativi di vario genere.

Cos’è il proctoring

Di preciso, il “proctoring” è un nuova gamma di strumenti, basati su intelligenza artificiale, che consente di controllare il dispositivo dello studente e di acquisire tutto un set di dati che permettono all’algoritmo di decretare se il ragazzo sta copiando oppure no. Proctorio e Respondus sono tra i software più comuni.

Digital event
Torna il Cybersecurity 360 Summit strategia nazionale di cybersicurezza. Online, 27 ottobre
Sicurezza
Sicurezza dei dati

Anche in Italia si sta sviluppando velocemente l’utilizzo di tali sistemi. Tra le altre anche l’Università degli Studi di Milano e il Politecnico di Torino si sono dotati di software di proctoring per meglio gestire le interrogazioni a distanza. Ma come funziona questa tecnologia?

Proctorio

Come funziona il proctoring: l’esperienza diretta al Polito

Siamo entrati in contatto con Gioacchino Gioele, studente di Torino, il quale ci spiega come funziona il controllo.

  • Gli studenti si collegano ad una pagina riservata sul sito dell’Università, accedono alla sezione esami, e si avvia una sorta di check preliminare che prevede, tra l’altro, di mostrare l’intera stanza, di testare il funzionamento di microfono e di mostrare la propria carta di identità.
  • Dopo questa fase si avvia l’interrogazione vera e propria dove la telecamera valuta eventuali movimenti sospetti e li marca/mette in evidenza al fine di permettere al docente di rivedere quello specifico istante per capire se, in effetti, lo studente stava copiando o meno.
  • L’identificazione avviene tramite la webcam e tramite il microfono per quanto riguarda eventuali rumori o voci sospette. Per quanto riguarda i movimenti del corpo, c’è massima attenzione sullo sguardo, che se spostato per più secondi in direzione diversa rispetto al fronte dello schermo e se abbassato per alcuni secondi, porta alla comparsa sullo schermo del warning.
  • Oltre a questo, il sw di proctoring registra tutta quella che è l’attività di mouse/touchpad, tastiera e schermo.
  • La scelta finale viene quindi effettuata dal docente e non dal software.
Questo warning che compare anche con una certa frequenza in caso di movimenti del tutto innocenti come il piegarsi per scrivere su un foglio di brutta dei calcoli o altro, ha portato a due reazioni diverse da parte dei docenti. Alcuni hanno deciso di ignorare la maggior parte dei warning, se non quelli più eclatanti, consentendo di scrivere su fogli di brutta ove necessario, mentre altri hanno deciso per una strada più rigida, togliendo direttamente la possibilità di usare fogli, a volte con evidente penalizzazione per gli studenti.
Preparing an Exam for Use with Respondus Monitor and LockDown Browser

I principali problemi del proctoring

Insomma, per raggiungere lo scopo prefissato i sistemi di proctoring si servono di tutti gli strumenti possibili. Telecamera del computer, audio, mouse. Qualsiasi cosa da cui potrebbe emergere un dato importante viene controllata dal software.

C”è massima attenzione, in particolare, sullo sguardo, che se spostato per più secondi in direzione diversa rispetto al fronte dello schermo e se abbassato per alcuni secondi, porta alla comparsa sullo schermo del warning. Non sappiamo se oltre a questi warning visibili anche dagli studenti, i docenti ricevano altre forme di segnalazione.

Il problema è che spesso questi warning appaiono a sproposito, magari anche solo per movimenti innocenti. Per capirci, quante volte vi capita che, a seguito di una domanda impegnativa, voi iniziate a fissare un punto nel nulla? Ecco questa cosa sarebbe letta dalla macchina come un tentativo di leggere un fantomatico bigliettino, con relativa segnalazione dell’anomalia. Per questo, spesso, i docenti sono costretti ad ignorare la gran parte dei segnali risultando il proctoring sicuramente meno efficace di quanto sperato.

Ora, al di là di quelli che possono essere i difetti strettamente funzionali di questi sistemi, a parere di chi scrive i problemi principali da evidenziare sono due:

  • la mole di dati ceduta a terzi,
  • la comparsa di bias capaci di incidere sull’autodeterminazione della volontà del software.

Partiamo dal primo punto, il trattamento dati. A tal riguardo è importante che gli istituti scolastici e le università non sottovalutino i rischi derivanti da simili sistemi. le istituzioni devono difatti ricordare che i dati non vengono trattati dalla scuola ma da società private straniere le quali, pertanto, dovranno essere compliant con il GDPR. Del resto, come noto, sono le scuole e le università a rispondere per la scelta dei sistemi, compresi quelli di proctoring. Eventuali violazioni da parte di questi sistemi comporteranno quindi importanti sanzioni a carico dei singoli istituti o atenei.

Le sfide privacy

In tal senso il DPO dovrà valutare ogni singolo aspetto. Un esempio? Dove conservano e dove processano i dati questi sistemi di proctoring? Uno dei sistemi più famosi è quello distribuito con il nome di Proctorio. Sul sito ufficiale è presente una sezione molto dettagliata riguardante il trattamento dati.

Esaminando l’informativa incappiamo però in questo paragrafo:

“International Data Transfers & Third-Party Disclosures – where Proctorio stores or transfers personal information outside the EU, we have robust procedures and safeguarding measures in place to secure, encrypt and maintain the integrity of the personal information. Our procedures include a continual review of the countries with sufficient adequacy decisions, as well as provisions for binding corporate rules; standard data protection clauses or approved codes of conduct for those countries without. We carry out strict due diligence checks with all recipients of personal information to assess and verify that they have appropriate safeguards in place to protect the information, ensure enforceable data subject rights and have effective legal remedies for data subjects where applicable”.

Ora, in primo luogo fa riflettere il fatto che non venga menzionato un luogo preciso dove sarebbero allocati i server. A ciò si aggiunga il fatto che Proctorio è un progetto americano circostanza questa che fa ritenere che quando nell’informativa affermano che inviano i dati solo in nazioni sicure, tra queste, a loro modo di vedere, potrebbero esserci tranquillamente anche gli Stati Uniti che, come sappiamo, in realtà per la Corte di Giustizia Europea e per l’EDPB non sono più da ritenere una nazione sicura.

Il Washington Post, proprio con riferimento a Proctorio, afferma che in USA è in atto una rivoluzione da parte degli studenti i quali non accettano l’utilizzo di un simile sistema così invasivo. In particolare, viene riportato il caso di Jesse Stommel, insegnante e fondatore di una rivista accademica, Hybrid Pedagogy, che ha accusato pubblicamente Proctorio affermando di essere stato inondato di lettere di studenti che si sentono male all’idea di doversi sottoporre a simili trattamenti di dati capaci di creare un forte stato d’ansia in quanto eccessivamente rigidi.

Le sfide cybersecurity

Anche la sicurezza è un grosso problema. Il 27 luglio la società ProctorU ha dichiarato di aver subito un data breach che ha causato la perdita di riservatezza di circa 444.000 records. Dati biometrici, immagini di camere da letto, voce… alcune delle informazioni più intime sono state acquisite da criminali informatici. Insomma, la necessità di evitare bigliettini durante le interrogazioni può davvero giustificare tutto questo?

L’impatto psicologico

Il punto è questo: le università si rendono conto delle conseguenze negative derivanti dall’utilizzo di questi sistemi? E soprattutto le università e scuole possono davvero obbligare gli studenti ad utilizzare i software di proctoring? La domanda è lecita considerando che gli stessi, di sicuro per funzionare necessitano del consenso non esistendo altre basi giuridiche utilizzabili. Ma questo consenso può dirsi libero? A parere di chi scrive la risposta è negativa in quanto laddove lo studente negasse l’utilizzo di un simile sistema non potrebbe accedere all’esame e, quindi, il consenso è da ritenersi assolutamente forza e di conseguenza non in linea con quanto prevede il GDPR.

I (soliti) pregiudizi

Esistono però altri problemi derivanti dal software stesso e dalla possibilità che sia affetto da bias, deviazioni che lo portano a risultati non logici e, in alcuni casi, non etici.

E’ quello che emerge da un’indagine di Venture Beat la quale ha evidenziato che, di fatto, questi sistemi di intelligenza artificiale non funzionano correttamente quando utilizzati da donne di colore. Per questo motivo, Kiana Caton, studentessa californiana impegnata nell’esame di Avvocato, è costretta ad utilizzare luci molto forti durante le prove al fine di far apparire la propria pelle più chiara in modo da evitare i bias del sistema di proctoring. Si tratta di una cosa che ha dell’assurdo. Perché un ragazzo di colore dovrebbe sottoporsi a simili mortificanti stratagemmi per poter sostenere un esame?

Insomma, ancora una volta, l’impressione è che il soluzionismo tecnologico abbia avuto la meglio creando distorsioni inaccettabili. Il proctoring nasce per evitare che gli studenti copino o barino durante gli esami. Ma può questo fine giustificare trattamenti di dati invasivi, rischio di perdita degli stessi, obblighi di consenso e, non da ultimo, umiliazioni come quelle subite da Kiana Caton? La risposta a parere di chi scrive è chiaramente no.

WHITEPAPER
Gestione dei contratti e GDPR: guida all’esternalizzazione di attività dei dati personali
Legal
Privacy
@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articolo 1 di 2