Meta ha presentato Muse Glimmer, il nuovo modello sviluppato da Meta Superintelligence Labs, pensato per portare le capacità degli agenti AI direttamente sui dispositivi degli utenti. Il modello conta 30 miliardi di parametri ed è stato ottimizzato per funzionare localmente su Mac e PC dotati di una singola GPU consumer.
I pesi sono stati rilasciati con una licenza permissiva Apache 2.0, rendendo Muse Glimmer disponibile alla comunità open source per una serie di applicazioni che spaziano dagli agenti locali al function calling, dalla programmazione alla valutazione dei modelli tramite LLM-as-a-judge.
Un modello progettato per funzionare senza cloud
Secondo Meta, gran parte delle implementazioni dei modelli AI continua a dipendere da infrastrutture cloud e dalla connessione a Internet. Muse Glimmer nasce invece per gli scenari locali, consentendo di utilizzare agenti AI anche senza accesso alla rete.
L’obiettivo è gestire attività che richiedono l’accesso a informazioni personali e l’esecuzione di operazioni su più passaggi. Un agente può, per esempio, occuparsi della gestione dell’agenda, della preparazione di messaggi o dell’organizzazione dei file. Per farlo deve combinare memoria a lungo contesto, comprensione multimodale, uso preciso degli strumenti, esecuzione su orizzonti estesi e capacità di seguire le istruzioni.
Per ottenere questo equilibrio su hardware locale, Meta ha utilizzato un’architettura compatta, una tecnica di distillazione che trasferisce il ragionamento agentico da un modello molto più grande e diverse ottimizzazioni per l’inferenza.
Ragionamento, strumenti e immagini
Muse Glimmer è stato addestrato e valutato su diverse capacità necessarie al funzionamento degli agenti. Il modello può completare attività end-to-end, gestire chiamate a strumenti attraverso schemi precisi, mantenere piani articolati durante workflow complessi e tentare nuovamente un’operazione quando uno strumento restituisce un errore.
È inoltre presente il supporto alla comprensione multimodale. Attraverso un encoder dedicato, Muse Glimmer può elaborare testo e immagini intercalati, interpretando quindi anche screenshot, grafici e documenti.
Il modello è compatibile con OpenClaw e altri sistemi di orchestrazione per agenti, permette di scegliere differenti livelli di intensità del ragionamento. Inoltre, secondo Meta, è stato addestrato con dati provenienti da oltre 100 lingue.
Nei benchmark indicati dall’azienda, Muse Glimmer ha mostrato prestazioni solide per la propria categoria dimensionale, venendo confrontato con Gemma4-31B e Qwen3.6-27B. Le valutazioni hanno incluso benchmark come DeepSearch QA, MCP-Atlas, τ-Bench e SWE-Bench.
Come riesce a funzionare su hardware consumer
Un modello da 30 miliardi di parametri a piena precisione richiederebbe oltre 55 GB di memoria, una quantità superiore a quella normalmente disponibile su una GPU consumer. Meta ha quindi utilizzato tecniche di quantizzazione che portano i pesi a circa 4 bit, riducendo le dimensioni del modello a meno di 20 GB.
In questo modo rimane spazio per la memoria di lavoro, l’encoder dedicato alla comprensione delle immagini e il sistema di generazione speculativa all’interno di configurazioni da 24 o 32 GB. Meta afferma che la compressione introduce un degrado minimo o nullo nelle attività agentiche.
Per aumentare ulteriormente la velocità viene utilizzato un sistema di speculative decoding basato su un modello leggero derivato da DFlash. Il modello secondario propone blocchi di token, mentre quello principale li verifica in parallelo, correggendo quelli errati. Il risultato è una generazione più rapida rispetto alla produzione tradizionale token per token, mantenendo la stessa qualità dell’output.
Download e strumenti per gli sviluppatori
Muse Glimmer è già disponibile con i relativi pesi su Hugging Face e con documentazione dedicata agli sviluppatori. Nei prossimi giorni il modello potrà essere utilizzato localmente anche attraverso strumenti come Ollama, LM Studio e Unsloth, oltre a framework come llama.cpp, ExecuTorch e MLX.
Per le implementazioni su larga scala sono previste integrazioni con vLLM e SGLang, mentre servizi come Together AI, Fireworks AI e OpenRouter permetteranno di iniziare più rapidamente.
Meta sta inoltre collaborando con AMD, Arm, Dell, Intel e NVIDIA per ottimizzare le prestazioni del modello sui diversi dispositivi. Gli sviluppatori potranno anche personalizzarlo sfruttando la funzionalità TorchTitan di PyTorch.
