Coinbase 反欺诈实测:新版 Opus、Sonnet、GPT 抓到的欺诈反而比上一代少,自己后训练的 Qwen3.5-9B 四项指标全面超过 Opus 4.5
阅读 0
- 发布日期
- 2026-10-12
- 类型
- 动态
- 相关机构
- Coinbase
- 信息来源
- agipulse
这件事意味着什么
【要点】
Coinbase 工程团队 10 月 6 日至 8 日连发三篇「Owning Intelligence」系列文章,讲他们怎样给 Onramp(在合作方应用里免注册买币)做反欺诈智能体。第一篇:在原有机器学习模型和规则之后加一层大模型复核,最初用 Claude Opus,线上 A/B 实验(实验组占 50% 流量)欺诈笔数少 30%、欺诈金额少 22%,预计挽回的损失约为推理成本的三倍。
第二篇:决策策略不变,用 9 周历史交易回放(16,140 笔、7,293 名用户、813 笔确认欺诈)对比新旧模型。Opus 4.5 对 Opus 5、Sonnet 4.6 对 Sonnet 5、GPT-5.4 对 GPT-5.6 Sol,每一组新版本的召回率、F1 和按金额加权的召回率都更低;Sonnet 召回率降了 22.2 个点,GPT 精确率升了 11.5 个点但召回率降了 20.7 个点。第三篇:用 Anyscale 上的 SkyRL 拿自家欺诈数据后训练 Qwen3.5-9B,四项检测指标都超过 Opus 4.5,F1 高 9.6,线上端到端延迟降低 55%(中位 0.683 秒对 1.515 秒)。
【可核验】
三篇文章都在 Coinbase 官方博客工程栏目。相关论文 arXiv:2609.27287(SR-Fraud)部分作者与系列作者相同,文中同样写到新版 Opus、Sonnet、GPT 在该基准上退步。数据集是 Coinbase 私有的,外界无法复现,也没有给出置信区间。CEO 阿姆斯特朗在 X 上转述结论,称专用模型会在细分任务上胜出。
【我们的判断】
一、「新版本更差」只在这一个任务、这一套固定决策策略下成立,不能读成新模型整体退步。更可能的解释是新版本的风险判断尺度变了,原来调好的阈值不再匹配。
二、这恰恰是要紧的地方:靠闭源 API 搭生产系统的公司,模型一升级,业务指标就可能悄悄漂移。自建的领域评测正在从可选项变成必需品。
三、9B 开源模型加上结果可验证的强化学习能在窄任务上超过前沿模型,这和本月微软基于同一底座做决策模型的思路一致。对标签清楚、流量大的企业任务,「自己拥有权重」正在变得划算。
继续了解相关进展
本页由 AGI Pulse 聚合,仅保留标题与链接,不转载正文。 编辑政策