AI e reti neurali: così i social ci illudono di avere il controllo, mentre decidono per noi - Agenda Digitale

manipolazione

AI e reti neurali: così i social ci illudono di avere il controllo, mentre decidono per noi

Quando stiamo ristrutturando casa e salviamo qualche foto di un pavimento che ci piace, non a caso l’algoritmo social ci mostrerà immagini di divani o TV. Così, sentendoci compresi posteremo sempre di più, senza renderci conto che non siamo più noi a decidere. Ecco i rischi

01 Lug 2021
Veronica   Gallo

Università Europea di Roma

Da diverso tempo, i social media hanno iniziato ad implementare nuove tecniche di intelligenza artificiale, tra le quali rientra quella delle reti neurali (neural network), per migliorare le capacità di apprendimento della piattaforma in modo sempre più preciso. L’utilizzo di questo sistema di intelligenza artificiale ha contribuito a trasformare il modo in cui i dati dei social network e delle più disparate piattaforme sociali vengono utilizzati per approfondire e capire i sentimenti degli utenti e per indirizzarli verso ciò che è più in linea con il suo umore e i suoi interessi.

È così che l’utente, credendo di essere compreso e ascoltato, condivide sempre più informazioni con i social senza rendersi conto, al contempo, di non essere più lui a scegliere cosa vedere.

Come gli algoritmi decidono cosa ci piace sui social media

Gli algoritmi guidano le strategie con cui Facebook, Google o Twitter mettono in evidenza i contenuti che dovrebbero interessare di più l’utente, questo perché dietro ad ogni ricerca c’è una strategia semplice e, potremmo dire, in un certo senso quasi scontata: più l’utente è contento più continua a navigare, soddisfacendo ovviamente la parte commerciale dell’internet[1].

WEBINAR
28 Ottobre 2021 - 12:00
FORUM PA 2021- Sanità: Cybersecurity, conoscere per non rischiare
Sicurezza
Cybersecurity

I motori di ricerca, infatti, decidono per noi cosa sia rilevante e agiscono in maniera personalizzata, filtrando e selezionando i post, i commenti o le foto che, secondo gli algoritmi, sono per noi più rilevanti. In questo contesto, caratterizzato per o più da algoritmi di machine learning, i sistemi e, di conseguenza, i social media, imparano e si nutrono di informazioni che gli utenti lasciano su internet quali abitudini, azioni e, ancor più, messaggi vocali. Tutti questi elementi messi insieme sono in grado di offrire prodotti e servizi in linea con le esigenze degli utenti arrivando perfino a offrire suggerimenti personalizzati per la composizione dei testi sulle chat o a consigliare la musica in base all’umore delle persone.

L’utilizzo di reti neurali: funzioni e benefici per le imprese

Sono molteplici le aziende tecnologiche che fanno utilizzo delle reti neurali. Queste reti sono in grado di apprendere gli interessi degli utenti e possono offrire contenuti sempre più rilevanti. Da Facebook per gli algoritmi di codifica automatica, Google per la ricerca delle foto, Amazon per i consigli sui prodotti, fino a Pinterest per la personalizzazione dei feed e Instagram per l’infrastruttura di ricerca[2].

Il potere delle reti neurali risiede proprio nel modo in cui analizzano le informazioni degli utenti, essendo essi composti da neuroni artificiali, una combinazione di processori e algoritmi software progettati per imitare il modo in cui i neuroni umani trasmettono ed elaborano le informazioni. Ricevono grandi quantità di dati come immagini, numeri e testi e li usano per conoscere le caratteristiche di un oggetto specifico. Ad esempio, le reti neurali rilevano schemi e forma, iniziando così a riconoscere e ad associare nel tempo modelli e a identificare oggetti[3].

Ovviamente possono rinvenirsi diverse tipologie di reti neurali, tra le quali vi è anche la rete neurale profonda, con più strati di neuroni, la quale è in grado di fare effettuare delle distinzioni più precise. Ad esempio, potrebbe essere in grado di analizzare una foto in cui vi è un animale ed essere in grado di identificare non solo di che animale si tratta, ma anche di che specie semplicemente analizzando le zampe o il muso.

La tecnologia di Pinterest

Pinterest Inc. ha implementato un sistema di intelligenza artificiale basato, appunto, sulle reti neurali, che sta permettendo al colosso di raccolta immagini un aumento esponenziale non solo per il numero di utenti ma anche e soprattutto per le entrate pubblicitarie.

Il sito di ricerca di immagini consente infatti agli utenti di pubblicare o salvare foto e video di cose che li interessano in raccolte chiamate bacheche. La chiave della popolarità del sito è che consente di fornire idee o spunti attraverso le immagini salvate da altri utenti suggerendo, al contempo, altre immagini che potrebbero essere in linea con quanto di reale interesse per l’utente che naviga sul sito o cerca ispirazioni.

Ma il processo per capire cosa piace realmente agli utenti o è in linea con i propri gusti avviene senza l’intervento umano. Esso è infatti gestito da un’intelligenza artificiale avanzata chiamata rete neurale che esegue milioni di calcoli in modo incredibilmente rapido per trovare le immagini, o cosiddetti “pin”, che attirano l’attenzione e rispecchiano lo stile o il gusto del futuro o probabile consumatore[4]. Ovviamente, più i pin sono adatti agli utenti, più questi saranno invogliati a cliccare sullo stesso per vedere i dettagli del brand raffigurato e a completare l’acquisto fuori dall’app.

Un esempio concreto avviene quando, ad esempio, si desidera arredare o ristrutturare la propria casa. Se si ricercano idee o tipologie di pavimento, dal parquet alle piastrelle salvandole nella propria bacheca, Pinterest studia cosa viene effettivamente salvato dall’utente e lo arricchisce di informazioni relative alla cronologia di ricerca. La sua rete neurale analizza pertanto le immagini, esamina i pixel nei pin e li classifica, ad esempio, per materiale, dimensione e colore e li abbina ad altri pin presenti sul sito con caratteristiche similari.

La rete neurale studia quelle immagini e se rileva altri oggetti come, ad esempio, un divano, potrebbe determinare che il pavimento serve per arredare il soggiorno.

Da questo momento, la rete neurale inizierà a mostrare all’utente immagini che raffigurano pavimenti di saloni o con diversi oggetti, studiando le reazioni dell’utente e analizzandone il comportamento. Maggiori saranno i click o i salvataggi delle foto in bacheca che raffigurano saloni, maggiori saranno le informazioni trasmesse alla rete neurale.

Da qui, l’intelligenza artificiale sarà in grado di individuare anche determinati schemi: ad esempio, le persone interessate al pavimento del salone spesso hanno acquistato un divano o una televisione utilizzando gli stessi pin di Pinterest.

Pertanto, il potere delle reti neurali di Pinterest è proprio quello di essere in grado di creare associazioni che un utente normalmente non farebbe. Gli utenti che installano un nuovo pavimento in salone potrebbero non pensare all’acquisto di una televisione o di un tappeto finché non viene visualizzato un annuncio che mostra un’unità che si adatta esattamente ai suoi interessi[5].

Spotify, l’identificazione dei gusti tramite le parole

Proprio in relazione ai sistemi di rete neurali, Spotify ha recentemente depositato un sistema brevettato chiamato Identification of Taste Attributes From an Audio Signal[6] in grado di monitorare e analizzare la voce degli utenti per consigliare loro la musica. Grazie a questa tecnologia, infatti, tramite l’estrazione di metadati dalle conversazioni, l’intelligenza artificiale sarà in grado di comprendere dettagli dell’utente quali, ad esempio, il sesso, l’età ma anche l’accento e lo stato emotivo di ognuno per raccogliere i diversi gusti degli ascoltatori.

La combinazione di questi dati con altri metadati ambientali di tipo fisico e sociale, inserita in un sofisticato algoritmo che li combina con la cronologia di ascolto, sarà in grado di fornire dei suggerimenti per la musica Spotify agli utenti.

In altre parole, la piattaforma di streaming sarà in grado di analizzarci mentre ascoltiamo la musica per poi catalogare il nostro umore in felice, arrabbiato, triste o neutro. Potrebbe essere in grado di intuire gioia se cantiamo sulle note di una canzone spensierata oppure se siamo annoiati in mezzo al traffico e con il sistema di geolocalizzazione attivato. E così, sulla base di questi indizi, proporci di conseguenza una playlist allegra o rilassante.

L’app Spotify, tuttavia, colleziona già moltissime informazioni sulle attività e sui gusti degli utenti: cronologia degli ascolti, le playlist create e i contenuti salvati. Sulla base di queste informazioni, crea poi la nostra personale playlist musicale. Ovviamente, l’implementazione di questo brevetto permetterebbe all’app di eseguire una profilazione sempre più precisa, incrociando i dati già presenti con quelli dati della voce dell’utente, dalla geolocalizzazione e dai rumori di sottofondo come quelli di un bar o dei mezzi pubblici, ma anche dell’ambiente sociale (es. ascolto in macchina o a una festa).

Conclusioni finali

La crescita esponenziale della tecnologia e delle reti neurali nasconde senz’altro alcune criticità soprattutto sul piano della protezione dei dati personali e della tutela della privacy. La capacità di farsi guidare nella scelta di cosa ascoltare o vedere, credendo di essere noi stessi a scegliere, deve infatti far sorgere i primi campanelli d’allarme.

Le reti neurali sono infatti piene di informazioni e dati degli utenti e la capacità di errore, talvolta, può essere alta. Queste infatti potrebbero, con un set di dati sufficientemente ampio, stabilire teoricamente connessioni sufficienti per identificare le persone i cui dati si trovano in un repository.

È più strati ci sono in una rete neurale, meno si sa su come effettivamente la rete realizza le connessioni. A tal proposito sono senz’altro necessarie delle informative privacy che illustrino in maniera chiara della possibilità di utilizzo dei dati personali per finalità di trattamenti automatizzati, compresa la profilazione, dando al contempo all’utente la possibilità di opporsi a tale trattamento o, quantomeno, di revocare il proprio consenso in qualsiasi momento.

Talvolta, questa mancanza di visibilità, porta i consumatori a interrogarsi sulle decisioni prese dalla macchina, sul perché viene mostrato una certa pubblicità piuttosto che un’altra. Ciò ovviamente non significa che i social media o, più in generale, le imprese dovrebbero non utilizzare le reti neurali, ma devono assumersi la responsabilità dei propri dati e della tecnologia e gestirne con attenzione gli usi ed essere in grado di gestire la correlazione con altre tecnologie di tracciamento, tipo i cookies.

Note

  1. Alessandro Chessa, Linkalab, centro studi sui Big Data
  2. https://www.lorenzogovoni.com/architettura-di-rete-neurale-convoluzionale/
  3. When it comes to social media, LinkedIn, which is owned by Microsoft Corp., says it uses neural networks to match users and ads, while representatives for Facebook Inc. and YouTube, which is owned by Alphabet Inc.’s Google, declined to say what technology they use. https://www.wsj.com/articles/pinterest-ai-growth-11621604558
  4. “It’s like this giant machine-learning engine that is being powered by the people that are pinning content”. Neural networks are driving “nearly 100%” of growth, says Jeremy King, Pinterest’s senior vice president of engineering and a former executive vice president and chief technology officer at Walmart Inc.
  5. With neural networks, AI can tackle unstructured information more easily, bringing advances in medical imaging, automated voice response, text generation and a host of other uses https://www.ncbi.nlm.nih.gov/pmc/articles/PMC5447633/
  6. https://pdfaiw.uspto.gov/.aiw?PageNum=0&docid=20180182394&IDKey=A28D4C4D8ADB&HomeUrl=http%3A%2F%2Fappft.uspto.gov%2Fnetacgi%2Fnph-Parser%3FSect1%3DPTO1%2526Sect2%3DHITOFF%2526d%3DPG01%2526p%3D1%2526u%3D%25252Fnetahtml%25252FPTO%25252Fsrchnum.html%2526r%3D1%2526f%3DG%2526l%3D50%2526s1%3D%25252220180182394%252522.PGNR.%2526OS%3DDN%2F20180182394%2526RS%3DDN%2F20180182394
WHITEPAPER
Quali sono le strategie da seguire per difendersi contro gli attacchi di phishing?
Sicurezza
Cybersecurity
@RIPRODUZIONE RISERVATA

Articolo 1 di 4