Meta 公布 Muse Glimmer 30B 技术报告：从 Muse Spark 蒸馏、为 32GB 显存选稠密结构，工具调用领先同级开放模型

这件事意味着什么

【要点】

Meta 10 月 19 日（北京时间 10 月 20 日 03:33）发布 Muse Glimmer 30B 的技术报告。这款开放权重模型 8 月 10 日首发，Meta 超级智能实验室（MSL）主打在消费级硬件上本地跑智能体任务。报告首次公开了它的结构和训练方法。

结构：约 296 亿参数的稠密 Transformer，外加约 18 亿参数的视觉编码器，支持图文输入、文字输出；52 层，GQA 注意力只有 2 个 KV 头，每 3 层滑动窗口（2048）配 1 层全局注意力，上下文 128K 以上。Meta 说在 32GB 显存这个硬约束下做过对比，稠密结构的计算效率是同等显存 MoE 方案的 2 到 2.5 倍，所以没用 MoE。

训练：预训练阶段直接用 Muse Spark 做 logit 蒸馏，后训练依次是 SFT、强化学习和在线策略蒸馏；发布全精度、约 4 比特量化权重，以及一个用于推测解码的 DFlash 头，Apache 2.0 许可。报告称它可以在单张 RTX 5090 上以实用速度运行。

成绩（Meta 自测，高推理档）：MCPAtlas 75.5，对比 Gemma4-31B 54.2、Qwen3.6-27B 62.5；SWE-Bench Pro 51.2；但 TerminalBench 2.1、OSWorld-Verified 和 GDPval-AA 仍落后 Qwen3.6-27B。

【可核验】

技术报告页：https://ai.meta.com/research/publications/muse-glimmer-30b-an-on-device-agentic-model/

Meta 发布帖：https://x.com/AIatMeta/status/2112265822274302066

模型权重：https://huggingface.co/meta-models/Muse-Glimmer-30B

【我们的判断】

一、这份报告的价值在于「怎么做」：用前沿大模型直接蒸馏出 30B 小模型，再针对 32GB 显存选择稠密结构，给本地智能体模型提供了一份可复现的配方。

二、成绩全是 Meta 自测。在工具调用上领先明显，但编程和电脑操作类测试并没有全面胜出；社区已经有人指出表里没有比较更新的 Qwen3.8-27B。

三、模型本身两个月前就已发布，这次是补上技术细节，不是新模型。