PrismML 以 Apache 2.0 开源三值化 Bonsai 2 2B/4B/9B：基于 Qwen3.5、支持视觉与工具调用，体积仅 0.43–2.0 GB，面向手机与眼镜

这件事意味着什么

【要点】

加州理工团队创办的 PrismML 10 月 15 日（美西时间）把 Ternary Bonsai 2 家族扩展到 2B、4B、9B 三个尺寸，以 Apache 2.0 免费开放下载，权重在 Hugging Face。新模型基于 Qwen3.5，权重只取 −1、0、+1 三个值，体积分别是 0.43 GB、0.95 GB、2.00 GB，比全精度版本小 9 倍以上。这个家族现在从 2B 到 27B 共四个尺寸。

官方数据：在 19 项基准上，编码、数学、指令遵循与全精度 Qwen3.5 持平或更好；视觉、智能体与工具调用、知识推理保留 90% 以上的分数。在 RTX 4090 和 M5 Pro MacBook 上，能效最高约为全精度的 3 倍、吞吐约 5 倍，9B 最高 124 token/s、2B 最高 276 token/s；在 iPhone 18 Pro Max 上，9B 约 34 token/s、2B 约 120 token/s。模型用 Google v5 TPU 训练。Atomic Chat、Darkbloom 等本地应用首日接入。

【可核验】

PrismML 公告：https://prismml.com/news/prismml-expands-bonsai-2-family-with-2b-4b-and-9b-models-for-on-device-ai

Hugging Face 合集：https://huggingface.co/collections/prism-ml/bonsai-2

【我们的判断】

一、三值化把带视觉和工具调用的 9B 模型压到 2 GB，等于把「能干活的小智能体」放进手机和眼镜的内存预算里，比单纯追求参数规模更贴近端侧落地。

二、成绩都是和自家基座 Qwen3.5 比、由厂商自报，需要社区复测；「保留 90% 以上」也意味着视觉和工具调用仍有损失。

三、又一例在中国开源基座（Qwen）上做压缩的美国公司，说明开源权重的下游生态正在端侧扩张。