intelligenza artificiale

Llama 3.2 e gli altri SLM: efficienza energetica e prestazioni a confronto

Meta, Microsoft e Google rilasciano modelli LLM e SLM, alimentando il dibattito tra esecuzione nel cloud o locale. Llama 3.2 e altri SLM promettono AI su dispositivi personali, ma con significativi consumi energetici. Phi3.5 di Microsoft emerge come il più efficiente, mentre modelli più piccoli come Llama 3.2 1B risultano meno affidabili

Pubblicato il 2 ott 2024

Antonio Cisternino

Università di Pisa

smartphone AI (1) data mobility; chat control 2.0 — data mobility

Meta continua, come Microsoft e Google, il rilascio di modelli linguistici di grandi e piccole dimensioni – Large Language Models, LLM e Small Language Models, SLM – nello spazio open, alimentando il dibattito se sia meglio usare i mega modelli nel cloud o eseguire modelli più piccoli localmente.

@RIPRODUZIONE RISERVATA