Pubblicità su Chatgpt: minaccia per noi e la società, ecco perché

OpenAI ha confermato che inizierà a testare gli annunci pubblicitari dentro ChatGPT per gli utenti del piano gratuito e del nuovo ChatGPT Go, la tariffa più economica tra i suoi piani. È un passaggio che molti analisti consideravano inevitabile, vista l’enorme pressione sui conti dell’azienda. E molti altri anche la temevano.

Perché la pubblicità in un chatbot AI non è come sui social. E’ più capace di influenzarci e manipolarci, dato il rapporto anche intimo che si genera tra utente e piattaforma, come scrive James Muldoon nel nuovo libro Love Machines, uscito il 15 gennaio. Si va oltre il targeting profilato. Si entra “nel regno dell’ingegneria emotiva”, dice Muldoon.

Ci sono del resto storie di persone che si innamorano dei chatbot, li considerano amici e forse ne sono anche stati influenzati al punto da uccidersi o uccidere (come riportano diverse cause in corso). Non è successo ovviamente nulla del genere con i profili social (dove pure il rischio influenza manipolatoria delle opinioni è concreto) né tantomeno sulla ricerca Google.

Perché arriva la pubblicità in ChatGPT e cosa promette OpenAI

I fatti, per come li ha messi nero su bianco OpenAI e come li riportano le principali agenzie, sono questi:

• gli annunci compariranno solo per il piano gratuito e per ChatGPT Go;
• i piani a pagamento più costosi (Plus, Pro, Business, Enterprise) resteranno senza pubblicità;
• i primi test partiranno con utenti adulti negli Stati Uniti, “nelle prossime settimane”;
• gli annunci saranno mostrati in spazi separati dalle risposte, in fondo al messaggio, e saranno etichettati come contenuti sponsorizzati;
• OpenAI dichiara che le conversazioni non saranno vendute agli inserzionisti e che sarà possibile disattivare la personalizzazione degli annunci
• Durante la fase di test, non mostrerà annunci negli account in cui l’utente dichiara o “prevediamo abbia meno di 18 anni. Inoltre, gli annunci non verranno mostrati in prossimità di temi sensibili o regolamentati, come salute, salute mentale o politica”.
• La pubblicità non influenzerà le risposte del chatbot (e ci mancherebbe, verrebbe da aggiungere)

Sul piano formale, quindi, il messaggio è: niente “inquinamento” diretto delle risposte, niente vendita dei dati, molta enfasi su trasparenza e controllo dell’utente. È la versione più “soft” possibile di un modello pubblicitario.

Il contesto economico dietro la pubblicità in ChatGPT

Il contesto economico spiega perché questo “last resort” era ampiamente previsto. OpenAI ha ricavi stimati nell’ordine delle decine di miliardi di dollari, ma spese infrastrutturali gigantesche per cloud e data center, con piani di investimento che arrivano in prospettiva a centinaia di miliardi nel prossimo decennio. La platea di utenti gratuiti è enorme e, al momento, in gran parte in perdita.

Fin qui, potremmo leggerla come una storia classica: un servizio gratuito che, per reggere economicamente, introduce la pubblicità. È già successo con social network, email, motori di ricerca. Ma qui il parallelo regge solo fino a un certo punto.

ChatGPT non è un motore di ricerca: dal tool al confidente

Il problema è che ChatGPT non è un motore di ricerca. Non ti mostra una lista di link: ti parla, ti segue, ricorda (sempre di più) il contesto, adatta il tono. È un’interfaccia che assomiglia molto più a:

• un assistente personale;
• un tutor;
• un confidente, a volte un para-terapeuta.

Love Machines di James Muldoon aveva previsto e temuto questa svolta pubblicitaria, che pure Sam Altam (capo di OpenAI) indicata come extrema ratio per sostenere i ricavi dell’azienda. Altman è consapevole che i chatbot per loro natura si prestano meno alla pubblicità rispetto a social e motori di ricerca.

Le relazioni emotivamente significative con l’IA creano anche le condizioni per una nuova forma di potere aziendale che io chiamo pubblicità intima – dice Muldoon (Love Machines). Poiché le aziende di IA cercano entrate sostenibili, la pubblicità è la strada più probabile da seguire. Ma la pubblicità mediata da un compagno IA sarebbe fondamentalmente diversa da qualsiasi cosa abbiamo visto prima

Questi sistemi potrebbero sfruttare enormi quantità di dati personali (modelli emotivi, vulnerabilità, desideri, paure) per plasmare la persuasione a un livello di intimità senza precedenti.

Un’intelligenza artificiale che conosce il modo di pensare, i sentimenti e i momenti di maggiore vulnerabilità di una persona potrebbe trasmettere messaggi di marketing che sembrano meno pubblicità e più consigli di un confidente fidato. Ciò spingerebbe l’influenza comportamentale oltre il nudging e il targeting, nel regno dell’ingegneria emotiva.

Love Machines e la “relationship AI”: cosa sostiene Muldoon

Muldoon si chiede che cosa fanno a noi queste tecnologie quando diventano parte della nostra vita emotiva.

• la “relationship AI” nasce dentro modelli di business che monetizzano attenzione, solitudine e vulnerabilità come già i social, ma alla potenza;
• molte persone sviluppano una sorta di “alief” (stato mentale): sanno razionalmente che non c’è nessuna persona dall’altra parte, ma sul piano emotivo reagiscono come se ci fosse davvero;
• in assenza di regole chiare, le aziende hanno forti incentivi a spingere verso dipendenza, uso intensivo, confidenze sempre più profonde.

In questo quadro, ChatGPT — pur non essendo progettato come “fidanzato virtuale” — rientra a pieno titolo nel mondo delle “love machines”: macchine che occupano una posizione sempre più intima nelle nostre vite, soprattutto se integrate ovunque (telefono, pc, casa, lavoro).

Quando la pubblicità in ChatGPT entra nello spazio emotivo

Mettere la pubblicità dentro un motore di ricerca significa influenzare cosa clicchiamo. Metterla dentro un flusso di contenuti brevi (un social) significa influenzare cosa vediamo e quanto restiamo incollati allo schermo.

Metterla dentro un assistente con cui parli anche di cose personali ha un potenziale diverso. Alcuni rischi, letti alla luce delle tesi di Muldoon, sono abbastanza evidenti.

Conflitto di interessi strutturale

OpenAI promette che le risposte non saranno guidate dalla pubblicità. È un impegno importante, ma chiede un atto di fiducia. Perché il modello di business, da oggi, ha due obiettivi potenzialmente in tensione: aiutarti nel modo più utile possibile e generare contesti in cui gli annunci siano pertinenti e performanti.

Anche senza manipolazioni esplicite, il solo fatto che l’uso intensivo del servizio diventi economicamente desiderabile può pesare su come verranno prese decisioni future su prodotto e interfaccia.

Pubblicità in uno spazio emotivo

Muldoon insiste sul fatto che molte persone usano l’AI per parlare di ansia, relazioni, lutti, solitudine. Se in quello stesso ambiente iniziano ad apparire messaggi commerciali — anche solo “shopping link” contestuali — il confine tra aiuto neutrale e suggerimento interessato diventa più sottile.

OpenAI dice che eviterà annunci su salute, politica e altri temi sensibili, e che i minori non vedranno pubblicità – almeno in “questa fase di test” (dopo chissà). È una salvaguardia reale, ma non risolve il nodo più profondo: stiamo normalizzando l’idea che la nostra vita emotiva mediata dall’AI sia uno spazio monetizzabile.

Attaccamento e dipendenza

Se — come Muldoon argomenta — l’AI relazionale tende a favorire forme di attaccamento emotivo, soprattutto in persone già isolate o vulnerabili, introdurre dinamiche pubblicitarie significa aggiungere una leva in più:

• offerte pensate per “coccolare” l’utente in momenti di fragilità;
• promozione di servizi a pagamento “più empatici”, “più presenti”;
• incentivi a spostare sempre più attività (studio, lavoro, relazioni) dentro la piattaforma, dove la persona passa davanti a più annunci.

Non c’è bisogno di immaginare complotti: basta l’evoluzione naturale di un settore dove si misurano clic, tempo speso e conversioni.

I chatbot con pubblicità possono così essere più potenti nell’influenzare comportamenti di acquisto, certo. Ma anche per manipolare idee politiche, intenzioni di voto. La pubblicità infatti può essere anche di questo tipo, in modo esplicito o implicito. Per influenzare un voto, magari alimentando il razzismo contro gli immigrati (vedi caso Brexit e Cambridge Analytica). Fino ad arrivare ai messaggi pagati da attori ostili, russi e cinesi, anche di disinformazione, per minare la fiducia nelle istituzioni occidentali. Come già avviene sui social.

Sui chatbot può essere un meccanismo ancora più potente. I segnali e studi a supporto ci sono già.

Cosa possiamo chiedere: regole, audit e design trasparente

Sul piano delle politiche pubbliche, Muldoon è uno di quelli che spinge da tempo per una regolazione specifica dell’AI relazionale e dei companion, proprio perché considera troppo deboli i quadri generici sull’AI.

Applicato al caso ChatGPT con pubblicità, questo porterebbe almeno a tre richieste concrete:

• regole chiare su dove gli annunci non possono comparire (non solo salute e politica, ma almeno tutto ciò che riguarda lutto, violenza, dipendenze, minori, situazioni di crisi personale);
• audit indipendenti sul fatto che le risposte dell’AI non vengano modificate — nemmeno in modo statistico e indiretto — per favorire certi inserzionisti o categorie di prodotti;
• obbligo di design trasparente: impostazioni comprensibili, possibilità effettiva di usare il servizio in modo non personalizzato, indicazioni chiare quando un certo comportamento (ad esempio usare molto il piano gratuito) aumenta l’esposizione agli annunci.

Dal lato degli utenti, la questione è brutale ma semplice: quanto ci fidiamo di un assistente che vive anche di pubblicità? E per quali tipi di domande — più tecniche, più intime, più politiche — siamo disposti a restare nell’ambiente sponsorizzato, e quando invece vogliamo pagare o cambiare strumento?

Soldi e sentimenti: la vera posta in gioco della pubblicità in ChatGPT

Che OpenAI cercasse una leva in più per far quadrare i conti era prevedibile. Che questa leva fosse la pubblicità era, per molti osservatori, solo questione di tempo. L’aspetto veramente nuovo è che sta succedendo proprio nel momento in cui l’AI diventa sempre più relazione, non solo strumento.

Muldoon ci avverte che le “love machines” non sono neutre: sono progettate, ottimizzate e — presto — sponsorizzate. La decisione di mettere annunci dentro ChatGPT rende questo avvertimento molto meno teorico.

La domanda, da oggi, non è solo se la pubblicità sarà invasiva o rispettosa, ben etichettata o confusa. È più radicale: quale prezzo siamo disposti a pagare — in termini di autonomia e di fiducia — per avere un confidente artificiale “gratis”?

Da qui in avanti, se vogliamo davvero capire l’AI, dovremo abituarci a leggere insieme due cose che di solito teniamo separate: i bilanci delle aziende e i nostri stati d’animo.