Se l'intelligenza artificiale ci giudica belli o brutti: così si spezzano legami e appartenenza - Agenda Digitale

estetica e ai

Se l’intelligenza artificiale ci giudica belli o brutti: così si spezzano legami e appartenenza

Il giudizio estetico è qualcosa che vogliamo condividere non un’esperienza che terremmo per noi stessi. Serve a collegare osservatori e oggetti in “comunità di apprezzamento”. Tuttavia, se esso viene demandato all’IA, non avremo più grandi comunità unite dal gusto comune: il risultato sarà lo spezzarsi definitivo dei legami

01 Giu 2021
Lorenza Saettone

Filosofa specializzata in Epistemologia e Cognitivismo, docente di Filosofia e Storia

Quali potrebbero essere gli usi del giudizio estetico artificiale? Nella Corea del Sud il boom di chirurgia estetica fu incentivato dal valore che la bellezza ha via via assunto nella società asiatica, secondo quei canoni che oggi incorporano app e reti neurali.

Nei posti di lavoro non è ammesso l’individuo che non ricalchi lo standard dominante: gioventù, doppia palpebra, altezza sopra il metro e settanta, magrezza, pelle diafana.

C’è il pregiudizio che chi non si impegna per la bellezza sia, ipso facto, un soggetto pigro e quindi poco affidabile. Ecco, dunque, che la “bellezza a ogni costo” diventa una caratteristica che i recruiter utilizzano per scegliere gli impiegati, essendo in grado di disvelare le soft skills domandate nel mondo del lavoro.

In Occidente esiste la proposta di nascondere dal CV fotografie e dati relativi al genere, ma cosa cambia se, prima dell’assunzione, verremo visti? E cosa accadrà se a vederci dovesse essere proprio un software come Face++?

Reti neurali per valutare l’attrattività delle persone

Face++ è una di quelle aziende cinesi che avrebbero collaborato con il governo per sviluppare il progetto Sharp Eyes, oggi impiegato per sorvegliare e rieducare le minoranze. E questo è già abbastanza preoccupante per l’uso a cui le fotografie potrebbero essere destinate. Le reti neurali, impiegate per valutare l’attrattività delle persone, si allenano su set di foto già giudicate belle o brutte dagli utenti umani. L’obiettivo è trovare correlazioni tra misure del volto e piacevolezza, deducendo quali sono le variabili che fanno apparire un volto come bello e imparando, dunque, a riconoscere tali caratteristiche anche in altre fotografie.

WHITEPAPER
Cloud Contact Center: scopri come scegliere i giusti KPI e migliorare le performance degli operatori
Big Data
Cloud

Il sistema sembra, a prima vista, incorporare l’idea di bellezza di Hume o di Kant, per i quali la bellezza è un concetto socialmente costruito, risultato di un accordo comune. Il problema, però, è che le società di tecnologia dimenticano che il bello ha confini tremolanti e pretendono di spacciare per universale, valido per tutti gli esseri umani e in tutti i tempi, un giudizio tarato su una comunità specifica, un giudizio che, invero, è carico di pregiudizi e discriminazioni.

Secondo Kant, autore della Critica del Giudizio, il gusto è in sé antinomico. Sembra riguardare solo il soggetto che sente il bello, ma poi si scopre che non siamo soli a concordare su quel sentire. Discutiamo della bellezza e pare esistere un certo grado di accordo tra le persone. Pertanto, il giudizio estetico oscillerebbe tra oggettività e soggettività: in questo è antinomico. Perché questa contraddizione? La soggettività è un gruppo di soggetti, collocati in un tempo e uno spazio determinati. Ecco perché sembra sussistere accordo e disaccordo: l’uomo, in quanto società, è la misura dei giudizi estetici. Il relativismo del bello è più ampio del singolo individuo, ma non può e soprattutto non deve trasformarsi in un universale umano.

Secondo Hume esistono verdetti che potrebbero valere da canone: sono i giudizi unanimi, cioè il concordare collettivo mantenuto nel tempo, che spesso accade per certi autori e opere. Anche i critici, quando si può ritenere siano testimoni neutrali, non spinti da interessi privati, possono fungere da standard simil-oggettivi. Omero, annoverato da Hume come esempio di bellezza, perché l’accordo del tempo si univa al verdetto dei critici dell’arte, oggi è caduto in discredito per via di tendenze forse sessiste che il testo incorpora. Insomma, è la prova che non esiste l’universale nell’arte e nemmeno nella filosofia, giacché addirittura Hume è da poco stato censurato in Inghilterra per problemi di razzismo. Scelte a mio avviso sciocche e deleterie sotto innumerevoli aspetti.

Insomma, l’intelligenza artificiale mette in pratica in modo deterministico la formula di Hume: verdetto della comunità (dataset di immagini giudicate belle dal pubblico) su cui interviene l’ok dei critici, in questo caso data analysts, che selezionano cosa tenere conto della bellezza, e l’oggettività della rete neurale stessa.

Kant, dal suo punto di vista, non ritiene accettabile l’opinione di Hume. Secondo il filosofo tedesco il bello si sente, non ha spiegazioni, dimostrazioni scientifiche, metodi sperimentali. È un’esperienza personale che non si può rendere universale. Ciò che è bello, per me e anche per altri, può dipendere da motivi molto diversi e sono sempre le ragioni intime a trasformare ciò che si vede in qualcosa di bello. Secondo Kant, in ogni caso, perché si sperimenti la bellezza, il giudizio deve essere disinteressato: non devono prevalere motivi libidici ed economici. Non si sentirà mai la bellezza di un essere umano se l’obiettivo che ci muove è sessuale; non sentirà mai la bellezza di una canzone se il critico avesse interessi economici. L’intelligenza artificiale di per sé stessa non ha fini libidici o egoistici, è vero, ma il training set da cui ha appreso cosa sia il bello in Cina è imbevuto di finalità umane. Non solo, anche l’uso del giudizio di valore sul bello tramite software resta un mezzo per fini commerciali, di sorveglianza, eugenetici.

Se l’IA apprende cos’è la bellezza da sé stessa

In particolare, in un articolo del MIT[1], si legge che gli algoritmi di riconoscimento del bello, probabilmente sono già incorporati nei social network. Questo fatto produrrebbe diverse conseguenze, in primo luogo discriminatorie: non tutti finirebbero per avere pari possibilità sul web, ma solo i contenuti allineati allo standard della “piacevolezza” incorporato. Solo chi è “bello” ha precedenza nella distribuzione.

Mi domando, se la rete neurale si allena su immagini che gli utenti hanno preferito, cosa accade se finisce per addestrarsi su fotografie già giudicate belle dall’IA stessa e quindi distribuite con maggiore probabilità dai social? Gli utenti darebbero un consenso maggiore alle immagini non per la loro bellezza, ma perché hanno maggiore visibilità online, in quanto già giudicate belle dall’algoritmo. Di nuovo, se l’IA si allenasse su tali dataset, scoprirebbe non i giudizi degli utenti, ma i propri giudizi. Si innescherebbe una circolarità: l’IA apprenderebbe cos’è la bellezza da sé stessa, rinforzando i pregiudizi su cui si costruisce e rendendo impossibile il cambiamento. Le reti neurali finirebbero, insomma, per darsi ragione da sole. Il giudizio estetico, in questo modo, diventerebbe qualcosa di fissato dall’alto, condizionato in duplice istanza dal machine learning e dalla diffusione dei social. Non sarebbe qualcosa che dal basso, gli utenti, insegnerebbero alla rete, ma qualcosa che ciascuno finirebbe per subire, una specie di subliminale. Non è democrazia, ma assolutismo.

Inoltre, la diffusione del bello a discapito del brutto, oltre a pretendere di far accettare universalmente standard soggettivi, di determinati gruppi, decreterebbe la fine della comunicazione. Nehamas, filosofo contemporaneo, considera la bellezza una dimensione sociale, atta a generare legami comunicativi particolarmente intensi. Il fine di esprimersi sul bello è principalmente quello di creare relazioni. Ecco perché la valutazione sul bello (like, dislike, cuori) è parte integrante del web: non poteva essere diversamente. Insomma, il giudizio estetico è qualcosa che vogliamo condividere e non è un’esperienza che terremmo per noi stessi. Serve espressamente a collegare osservatori e oggetti in “comunità di apprezzamento”.

Tuttavia, se il giudizio estetico viene demandato all’IA, la conseguenza non sarà una grande comunità unita da un gusto comune. Piuttosto il risultato sarà lo spezzarsi definitivo dei legami. Il giudizio è in prima istanza un sentire soggettivo, un’esperienza personale. In seguito, viene però sempre resa pubblica di modo da trovare altri che condividano la nostra intimità. Questo aspetto del bello è funzionale per creare legami di appartenenza. Tuttavia, se il giudizio non è più affar nostro, se diventa un canone spacciato per oggettivo, gli utenti non potranno che essere passivi e divisi. Ogni individuo sarà solo una fotografia catalogata dall’IA e non più un soggetto responsabile del proprio giudizio, un giudizio da negoziare costantemente nel dialogo insieme ad altri esseri umani diversi o simili a noi. È bello” diventa una misura sotto cui soccombere, non una possibilità di scambio.

Conclusioni

La bellezza, dice Nehamas, crea società più piccole. Insomma, il bello unisce dividendo, paradossalmente. Questa è la cura a ogni regime fondato sul terrore. Ogni micro-gruppo crede sempre nella propria ortodossia, pensa di avere ragione e vede gli altri come “eretici”. Ciascuno spera sempre di allargare i propri criteri estetici a comunità più vaste; confida nel fatto di convertire gli altri, perché convito che la propria esperienza di bello sia un valore da condividere. Per fortuna nessun gruppo ha mai avuto così tanto potere da condizionare il gusto altrui, omologando l’intera umanità sotto un unico canone. Oggi non è più così. Da un lato il web è estremamente pervasivo, dall’alto il “coltello tecnologico” è nelle mani solo di Stati Uniti e Cina, in grado di imporre il proprio modo di vedere a ogni altro micro-gruppo della rete. La “grande società” unita dall’idea di bello, purtroppo, finisce per concordare anche sul brutto: le minoranze. Con tutto ciò che ne consegue.

  1. https://www.technologyreview.com/2021/03/05/1020133/ai-algorithm-rate-beauty-score-attractive-face/

@RIPRODUZIONE RISERVATA

Articolo 1 di 2