《绝地求生》开发商 KRAFTON 发布首个从零训练的大模型 Raon-1 mini 预览版:30B-A4B MoE,改用 Kimi、DeepSeek 架构,Apache 2.0 开放权重
阅读 1
- 发布日期
- 2026-10-21
- 类型
- 模型发布
- 相关机构
- KRAFTON AI
- 信息来源
- agipulse
这件事意味着什么
【要点】
《绝地求生》开发商 KRAFTON 的 AI 团队在 Hugging Face 发布 Raon-1 mini 预览版,这是它首个从零训练的大语言模型,Apache 2.0 许可,申请后自动获批下载。
一、规格:28.8B 总参数、每 token 激活 4.3B 的 MoE(128 个专家选 6 个加 1 个共享),25 层中 18 层是自研线性注意力 RDA,只有 7 层 MLA 保留 KV 缓存,原生 262K 上下文。
二、架构明确借鉴中国实验室:RDA 改自 Kimi Delta Attention,残差连接改自 DeepSeek 的 mHC。
三、官方自测(裁判模型为 gpt-5.6-luna):SWE-Verified 70.8、AIME 2026 93.3、GPQA Diamond 84.3、IFBench 84.2,与 Qwen3.6-35B-A3B、Gemma 4 26B-A4B 互有胜负;MMLU Pro 76.5、Terminal-Bench Lite 47.0 明显落后。
四、同时提供 MXFP8、NVFP4(单张 RTX 5090 可跑)、GGUF、MLX 版本和 DFlash2 草稿模型,官方称单卡 B300 输出吞吐最高提升 2.18 倍。
【可核验】
模型卡:https://huggingface.co/KRAFTON/Raon-1-mini-preview
Raon-1 合集:https://huggingface.co/collections/KRAFTON/raon-1-6ad80dbf805e0afb58ce5fb4
NVFP4 / GGUF / 草稿模型:https://huggingface.co/KRAFTON/Raon-1-mini-preview-nvfp4 / https://huggingface.co/KRAFTON/Raon-1-mini-preview-gguf / https://huggingface.co/KRAFTON/Raon-1-mini-preview-assistant
【我们的判断】
一、背景:韩国此前的主力开源模型多来自 LG、Naver、SK 电信等,游戏公司亲自从零训练 30B 级 MoE 并用 Apache 2.0 放出,说明「主权 AI」之外的韩国企业也开始自建底座。
二、横向看,30B 上下、3B–4B 激活是今年最拥挤的赛道:Qwen3.6-35B-A3B、Gemma 4 26B-A4B、Muse Glimmer 30B 都在这里。Raon 的卖点不是全面领先,而是指令遵循、搜索和韩语对话;代码和终端任务仍弱于同级。
三、它把 Kimi 和 DeepSeek 公开的架构直接拿来改,是中国开源研究外溢的又一例证。
四、局限:这是预览版,指标会变;成绩全部自报,韩语对话用的是未公开内部集;vLLM 和 llama.cpp 需用 KRAFTON 自己的分支,上游支持尚未合并,部署门槛比主流模型高。
继续了解相关进展
本页由 AGI Pulse 聚合,仅保留标题与链接,不转载正文。 编辑政策