投机解码 EAGLE-4 首个公开版本发布：一个草稿模型按批大小和硬件自动调节，团队自测 Qwen3.8-27B 单请求最多提速约 3.6 倍

这件事意味着什么

【要点】

投机解码方法 EAGLE 系列背后的团队（Eagle AI Corp）10 月 20 日发布 EAGLE-4 首个公开版本 v0.1.0：推理代码、技术论文和 Qwen3.8-27B 的草稿模型一起放出，以插件形式接入 SGLang、vLLM 和实验性的 TokenSpeed。EAGLE 此前几代被广泛用于各大推理引擎的加速。

一、思路：同一个草稿模型按当前批大小、硬件和负载实时测算起草和验证的成本，自动决定每步猜多少个 token，并保持目标模型的输出分布不变。论文认为，DFlash 2、DSpark 这类固定块长的并行起草方法在大批量时会浪费计算。

二、论文数据（团队自测，Qwen3.8-27B，4 块 B300，温度 0）：单请求吞吐是不加速时的 3.59 倍，是 DFlash 2 的 1.28 倍、DSpark 的 1.40 倍，是模型自带多 token 预测（MTP）头的 1.62 倍；512 并发时为 DFlash 2 的 1.70 倍、DSpark 的 1.99 倍。在 4 核 CPU 云主机上平均提速 2.71 倍，也测了手机。

三、发布说明里的实测（同引擎关闭加速作对比）：vLLM 单并发从 241.6 提到 722.8 tok/s（2.99 倍），SGLang 8 并发 1.91 倍、64 并发降到 1.35 倍；AMD MI355X 8 并发 2.07 倍，但 ROCm 版本还在验证中。

四、使用条件：需要安装团队打过补丁的引擎版本，官方原版引擎不带这些接口。许可证是「源码可用」而非开源：过去 12 个月营收超过 2000 万美元的机构做商用需另签授权，也不得用来做与 EAGLE-4 竞争的产品。

【可核验】

GitHub 发布页：https://github.com/eagle-hq/EAGLE-4/releases/tag/v0.1.0

代码与说明：https://github.com/eagle-hq/EAGLE-4

论文：https://github.com/eagle-hq/EAGLE-4/blob/main/EAGLE4_Paper.pdf

PyPI：https://pypi.org/project/eagle-harness/0.1.0/

草稿模型：https://huggingface.co/EAGLE-Corp/Qwen3.8-27B-EAGLE4

许可证：https://github.com/eagle-hq/EAGLE-4/blob/main/LICENSE

【我们的判断】

一、投机解码是今天降低大模型推理成本的主要手段之一，按批大小和硬件自动调节，针对的是线上服务负载忙闲变化的真实痛点。

二、所有对比数据都来自团队自己，且只在 Qwen3.8-27B 一组模型上系统测过；高并发下提速明显收窄，换模型需要自己训练草稿模型。

三、要换用打补丁的引擎、营收超过门槛就要另签商业授权，大公司直接上生产的门槛比前几代高。