vLLM 跑上英伟达 Vera Rubin：MiniMax M3 吞吐达 GB200 的 7.8 倍，中国开源模型首日可用

这件事意味着什么

【要点】

vLLM 团队 10 月 9 日发文（10 日上午在 X 上宣布）：开源推理引擎 vLLM 已经能在英伟达下一代机柜 Vera Rubin NVL72 上运行，官方提供每日构建的容器镜像，DeepSeek、Kimi、GLM、MiniMax 几家中国开源模型都能直接跑。这项工作由 Inferact、英伟达、Red Hat 和 vLLM 社区一起完成。

早期性能数字有两组。一是 SemiAnalysis 的 AgentX 智能体服务基准：用 MiniMax M3 测，在交互速度相同的条件下，每块 Rubin GPU 的吞吐量最高是 GB200 的 7.84 倍；如果要求每个用户每秒至少 150 个 token，优势是 5.18 倍。二是 MLPerf Inference v6.1 的视觉语言模型项目：Qwen3-VL-235B-A22B 用 vLLM 加 Dynamo 部署，吞吐最高是 GB300 NVL72 的 3.7 倍。

能直接跑起来，是因为 Rubin 沿用 Blackwell 架构家族，vLLM 现有的 Blackwell 内核不用改；另外接入了 FlashInfer 0.7.0 里针对 Rubin 调过的注意力、矩阵乘和 MoE 内核，并利用 CUDA 13.4 的「局部内存域」把 MoE 权重按显存分区切开，让计算单元只读离自己最近的那块显存。

【可核验】

一手来源是 vLLM 官方博客文章和 @vllm_project 的 X 宣布帖（约 3.6 万次曝光、270 个赞）。

7.84 倍比的是上上代的 GB200，不是现役的 GB300；而且只测了 MiniMax M3 一个模型，测试方包括英伟达自己，还没有独立复现。硬件参数上，博客写的是整机柜 FP4 推理算力约为 GB200 NVL72 的 5 倍，X 帖里写的是单卡约 3.5 倍，两处口径不同；显存带宽约 2.4 倍、NVLink 带宽约 1.7 倍两边一致。博客的后续计划里，Kimi K3 和 DeepSeek-V4.1-Flash 的 Rubin 专用内核还没接入，所以这两款模型目前只是「能跑」，没到调优后的水平。

【我们的判断】

这条消息真正说明的，不是 Rubin 有多快，而是中国开源模型已经成了衡量新一代 AI 硬件的默认负载。英伟达新机柜对外的第一份推理成绩单，主角是 MiniMax M3，适配名单是 DeepSeek、Kimi、GLM 和 MiniMax，测视觉模型用的是 Qwen。开源权重让这些模型在硬件发布第一天就进了测试集，这是闭源模型给不了的位置。

对用户来说，每个 token 的推理成本还会继续往下走，而且这份红利不用等模型厂商降价：谁拿到 Rubin 机柜、谁部署开源模型，谁就能直接用上。但也要看清，这份收益首先落在能买到最新英伟达硬件的海外云厂商和托管方手里；模型厂商自己在国内的服务价格，更多取决于它们用的是什么卡。7.8 倍这种早期、单模型、厂商参与的数字，适合看方向，不适合直接拿来算采购账。