intelligenza artificiale

Llama 3.2 e gli altri SLM: efficienza energetica e prestazioni a confronto



Indirizzo copiato

Meta, Microsoft e Google rilasciano modelli LLM e SLM, alimentando il dibattito tra esecuzione nel cloud o locale. Llama 3.2 e altri SLM promettono AI su dispositivi personali, ma con significativi consumi energetici. Phi3.5 di Microsoft emerge come il più efficiente, mentre modelli più piccoli come Llama 3.2 1B risultano meno affidabili

Pubblicato il 2 ott 2024

Antonio Cisternino

Università di Pisa



smartphone AI (1) data mobility; chat control 2.0
data mobility

Meta continua, come Microsoft e Google, il rilascio di modelli linguistici di grandi e piccole dimensioni – Large Language Models, LLM e Small Language Models, SLM – nello spazio open, alimentando il dibattito se sia meglio usare i mega modelli nel cloud o eseguire modelli più piccoli localmente.

Continua a leggere questo articolo

Articoli correlati