Amazon ha lanciato servizio Alexa+ a tutti negli Stati Uniti. Si intravede così anche in Italia l’arrivo del nuovo servizio che usa la tecnologia LLM per l’interazione vocale superando l’interazione pre-GenAI che ha caratterizzato il servizio finora.
Ma quali possono essere le implicazioni in questo passaggio che per la prima volta fornisce accesso ad una AI generativa a un numero straordinario di dispositivi presenti nelle case degli utenti?
Siamo sicuri che sia una cosa buona?
Cerchiamo di capire come il servizio è stato recepito dagli utenti americani e quali problemi ci dovremo trovare ad affrontare al rilascio italiano.
Indice degli argomenti
Come funziona Alexa+, svantaggi e rischi
Il servizio è disponibile gratuitamente in un’applicazione Web, e sarà disponibile per tutti gli utenti. Questo significa che l’impatto riguarda tutti gli utenti Alexa.
Pagando quasi 20$ al mese si ottiene la versione avanzata con un uso illimitato del modello e spazio cloud. È interessante osservare come, almeno per ora, se si dispone dell’abbonamento Prime il servizio sia incluso ad un prezzo inferiore: ergo Amazon vuole spingere gli utenti sul servizio prime piuttosto che vendere un servizio AI indipendente.
Attivazione automatica: le reazioni degli utenti su Alexa+
Non sorprenderà scoprire come una delle prime lamentele di molti utenti americani relativamente al fatto che il passaggio da Alexa a Alexa+ sia avvenuto automaticamente sui dispositivi Prime:
“It’s all the non-consent that’s bothering me right now.”
Si tratta di un’abilitazione con un impatto sul servizio, sia in termini di interazione vocale che nell’apparente perdita del funzionamento di alcune skill che potrebbero fornire funzioni importanti per l’utente, non barattabili con un’interazione conversazionale:
“Some skills that worked fine before are suddenly incompatible.”
Prestazioni e tempi di risposta
Sui forum di Amazon si vedono numerose reazioni negative relative alla lentezza del nuovo servizio:
“It’s agonizingly slow. By the time it turns on a light, I could walk in, turn it on and go back out. AI is a joke!”
Smart home e compatibilità: i limiti di Alexa+
Altri utenti lamentano un peggioramento sulle funzionalità di Smart Home del servizio:
“Alexa+ has a lot of limitations with regard to smart home devices… you may lose smart home functionality with some devices.”
Altri utenti lamentano che il rollback alla versione originale di Alexa comporta la perdita di configurazioni in alcuni dispositivi come, ad esempio, le configurazioni dei display Echo Show.
Reattività e affidabilità: cosa aspettarsi da Alexa+ in Italia
Sicuramente la lentezza del servizio può essere in parte dovuta al fatto che Amazon stia ancora rilasciando il servizio e quindi le risorse computazionali a disposizione dei nuovi modelli saranno aumentate, ma abbiamo sufficiente esperienza in LLM ormai per sapere che probabilmente la reattività nelle risposte sarà più alta di un servizio specializzato capace di reagire a comandi vocali.
Resta da vedere se l’attivazione automatica ad alcuni utenti del nuovo servizio si ripeterà anche in Italia o la reazione degli utenti americani scoraggerà una diffusione aggressiva della nuova tecnologia.
La sfida della sicurezza con Alexa+: i rischi
Sappiamo bene che i modelli LLM soffrono di allucinazioni, e anche l’interazione vocale a volte può complicare ancor di più l’affidabilità nell’esecuzione di comandi, quali sono quindi le implicazioni di consentire ad un modello LLM di controllare attuatori?
Non si corre forse il rischio di assistere ad abusi o gestioni errate dei dispositivi di casa? Un errore di una AI può allora tradursi in consumi energetici in eccesso dovuti all’accensione involontaria di dispositivi, o addirittura a guasti di dispositivi a causa dell’invio di comandi in sequenze inappropriate.
Affidabilità dei comandi e valore percepito di Alexa+
Da un punto di vista dell’affidabilità del servizio è evidentemente più affidabile classificare una richiesta vocale in un numero finito di possibili comandi rispetto a un modello che può comprendere in modo errato un’affermazione e produrre attuazioni di dispositivi inattese.
In sostanza vale la pena di aggiornare al nuovo servizio per ricevere un po’ più di interazione nella conversazione?
Un altro utente: “It seems like Alexa+ doesn’t do anything positive other than make the voice more interactive? Absolutely horrible product as it is currently.”
Prompt injection e attivazioni non richieste: rischi per Alexa+
Dobbiamo quindi chiederci: non è che cominceranno a circolare degli attacchi di prompt injection via WhatsApp che attraverso messaggi vocali cercheranno di spegnerci i dispositivi di casa? Dovremo utilizzare le cuffie per evitare queste derive?
Su Reddit vi sono già le prime segnalazioni di dispositivi che si attivano in assenza di comandi espliciti. Si tratta di prime segnalazioni e tutte da verificare, ma è solo questione di tempo perché emergano malfunzionamenti legati ai limiti del funzionamento degli LLM.
Privacy e differenze tra Alexa e Alexa+
L’attivazione di un elemento non deterministico all’interno di un contesto di attuazione molto specifico può introdurre problemi non solo di sicurezza ma anche di privacy: si potrebbero dare istruzioni di leggere il citofono RingOne e mandare un report fuori della casa per consentire attività di spionaggio.
Il passaggio da Alexa a Alexa+ non va quindi interpretato come una naturale evoluzione di un prodotto: si tratta di due intelligenze artificiali completamente diverse, una pre e l’altra post arrivo di LLM, e ad oggi sembra che la prima sia più limitata nei comandi che accetta ma ne assicura la corretta esecuzione, al contrario il modello LLM consente un’interazione più naturale ma più a rischio di ritardi nelle risposte e di incomprensioni legate sia fenomeno del Context rot che per le allucinazioni del modello LLM stesso.
Disponibilità in Italia: cosa controllare dopo l’uscita USA di Alexa+
Non resta che attendere l’arrivo di questo nuovo assistente, dopo il rilascio americano sembra lecito subito verificare la disponibilità di Alexa+ per il mercato italiano.
