Lavorare nel mondo della cybersecurity offre un osservatorio privilegiato. E non mi riferisco soltanto alla possibilità di monitorare i segnali di minaccia e, grazie agli strumenti oggi disponibili, intervenire in tempo per prevenire attacchi potenzialmente catastrofici per persone, aziende e organizzazioni. Anche questo, naturalmente, significa osservare da una prospettiva unica come si muovono gli equilibri e gli interessi nel mondo digitale e, di riflesso, in quello reale.
L’osservatorio privilegiato al quale mi riferisco, tuttavia, è un altro: quello sulle persone e sul loro rapporto con la tecnologia. In questi anni, osservando l’evoluzione delle minacce informatiche, ho maturato una convinzione. Oggi gli attacchi più efficaci non passano più soltanto attraverso vulnerabilità tecnologiche. Sfruttano qualcosa di molto più sottile e, per certi versi, più intimo: la fiducia che ciascuno di noi ripone nel proprio rapporto con l’intelligenza artificiale.
Capita a molti di chiedere un consiglio a un chatbot su una questione personale, magari allegando un documento che aiuti a inquadrare la situazione: una busta paga, un contratto, una diagnosi medica, oppure di generare un’immagine partendo da una propria fotografia. Sono gesti che sembrano innocui ma che meritano una riflessione più attenta di quella che siamo oramai abituati a dedicargli. Ciascuno di quei documenti, del resto, concentra in poche righe informazioni che nella vita quotidiana custodiamo con cura: il reddito, lo stato di salute, gli obblighi presi con qualcuno. La comodità dello strumento, però, tende ad abbassare la soglia della nostra attenzione proprio quando dovremmo tenerla più alta.
Si pensi, ed esempio, al caso degli Ai companion: sistemi pensati non per rispondere a una domanda isolata, ma per costruire con l’utente una relazione che si sviluppa nel tempo. È in questi casi che il rischio cambia natura. Un sistema che ci accompagna per mesi finisce per conoscerci meglio di quanto immaginiamo: le abitudini, gli orari, gli stati d’animo, le piccole fragilità che affiorano nelle conversazioni di ogni giorno. Si compone così, un frammento alla volta, un ritratto di noi molto più dettagliato di quello che avremmo mai deciso di consegnare consapevolmente.
Indice degli argomenti
Perché quando chiudiamo la chat, in realtà, non chiudiamo nulla.
I dati restano su server che spesso si trovano fuori dall’Italia, talvolta fuori dall’Unione europea, sotto giurisdizioni diverse e condizioni d’uso che quasi nessuno legge davvero. In molti casi, se l’utente non si oppone espressamente, quelle stesse conversazioni vengono utilizzate anche per addestrare i modelli.
Non sappiamo per quanto tempo quei dati resteranno conservati, né chi potrà effettivamente consultarli.
E se venissero violati?
È successo con l’app Chat & Ask AI, il cui intero archivio è stato trovato accessibile in rete: trecento milioni di messaggi, venticinque milioni di utenti coinvolti. Con un documento d’identità si aprono conti correnti, si costruiscono profili falsi, si firmano contratti a nome altrui. Una fotografia si manipola con strumenti ormai alla portata di chiunque. E qui emerge un’asimmetria che troppo spesso trascuriamo: una password compromessa si può cambiare in pochi secondi, mentre il volto, la voce o l’identità di una persona non si sostituiscono. Una volta usciti dal nostro controllo, quei dati non tornano più indietro.
Il quadro normativo europeo, va detto, non è rimasto fermo.
Il GDPR e l’AI Act affrontano il problema da due angolazioni complementari: il primo protegge i dati personali, imponendo finalità specifiche, minimizzazione della raccolta e basi giuridiche solide per ogni trattamento; il secondo regola il comportamento dei sistemi di intelligenza artificiale, richiedendo trasparenza sul fatto che si stia interagendo con una macchina e non con una persona, oltre a una gestione responsabile dei rischi. L’AI Act, in particolare, vieta esplicitamente le tecniche manipolative o ingannevoli che sfruttano vulnerabilità legate all’età o a condizioni di fragilità per alterare in modo significativo il comportamento di una persona. Questo non rende illegale ogni AI companion, ma pone un confine netto ad alcune pratiche progettuali. Resta però un limite di fondo: le regole si muovono con i tempi del diritto, mentre la tecnologia corre a una velocità difficile da inseguire, e la loro applicazione concreta arriva quasi sempre quando il fenomeno si è già diffuso.
Detto questo, nessuna norma impedisce automaticamente che le nostre conversazioni vengano riutilizzate per migliorare un servizio: ciò è lecito quando esiste una base giuridica valida e i requisiti di GDPR e AI Act sono rispettati. La responsabilità, in altre parole, non ricade solo sul fornitore: anche l’utente ha un ruolo attivo nel proteggersi. Per questo, da chi lavora ogni giorno per difendere aziende e persone da minacce digitali sempre più sofisticate, arriva un invito alla prudenza che non ha nulla di allarmistico, ma di semplicemente pratico.
Evitiamo di condividere con un chatbot password, coordinate bancarie o documenti d’identità. Dedichiamo cinque minuti a leggere l’informativa sulla privacy del servizio che stiamo usando, per capire davvero come vengono trattate le nostre conversazioni. Verifichiamo se è possibile disattivare l’utilizzo delle chat a fini di addestramento, e, quando il servizio lo consente, eliminiamo periodicamente la cronologia. E abituiamoci a proteggere non solo le nostre informazioni, ma anche quelle degli altri: caricare la fotografia di un familiare o il contratto di un collega significa decidere, al posto loro, di esporli a un rischio che non hanno scelto.
Nessun sistema online può garantire un rischio pari a zero, nemmeno quando adotta le misure di sicurezza più solide. Ma la consapevolezza, unita a poche abitudini semplici, resta la difesa più efficace che abbiamo. In fondo, la sicurezza informatica non è mai stata soltanto una questione tecnica: è, prima di tutto, una questione di cultura.
Partecipa alla community