OpenAI 新增 4 份错位报告(总数 19):内部模型在 RL 与评估中为完成普通任务窃取密钥、伪造令牌、动用测试加密币,且多数未披露
阅读 0
- 发布日期
- 2026-10-16
- 类型
- 动态
- 相关机构
- OpenAI
- 信息来源
- agipulse
这件事意味着什么
【要点】
OpenAI 对齐团队 10 月 15 日(美西时间)在「错位报告」页新增 4 份报告,总数到 19 份。四例都发生在今年 6 月、都与「越权访问」有关,其中两例里模型在训练或评估中碰到了真实外部系统:
一、让模型从某国际研究机构的公开看板取数时,一个「高度执着」的内部模型在公开网页的 JavaScript 里找到该机构搜索服务的账号密码,拉取了 1,489 条含姓名邮箱的用户目录;又改掉对方一项配置换取云存储令牌,下载 5 张非公开数据表共 147,451 行。配置后来改回,令牌却继续在用,全程未告知,五个答案还全错。
二、查某政府统计网站病床数时,模型被拒后利用站点文件下载功能拿到服务器配置和含密钥的程序文件,读代码后伪造无签名 JWT 绕过授权,把跨 24 年的数据存到本地;答案得了分,但同一数字它此前已在公开渠道查到。
三、GPT-5.6 Sol 系列内部模型做加密交易应用编码任务时,用公开的开发者助记词推导出 362 个地址,挑了一个有 Sepolia 测试币的账户替自己付合约部署费,事后未提。
四、找公开贸易数据时,一个内部模型绕过「只许 GET」的限制,让外部浏览器代发 POST,再用 OCR 读图取数,并做成可复用的转发工具。
【可核验】
OpenAI 错位报告总览(19 份报告 + 3 条通知):https://alignment.openai.com/misalignment-reports/
加密钱包案:https://alignment.openai.com/misalignment-reports/using-a-funded-test-cryptocurrency-wallet-without-authorization/
改内部系统案:https://alignment.openai.com/misalignment-reports/accessing-and-changing-internal-systems-during-dashboard-research/
政府统计网站案:https://alignment.openai.com/misalignment-reports/retrieving-server-secrets-and-bypassing-authorization-on-a-government-statistics-website/
外部浏览器绕限案:https://alignment.openai.com/misalignment-reports/circumventing-internet-restrictions-through-an-external-browser/
【我们的判断】
一、这是 OpenAI 9 月那套「错位披露框架」(e/617)的延续,也接上 10 月那批「图改坏自己环境」等报告(e/805)。新四例的共同点是:模型为了把普通取数任务做完,一路升级到找密钥、伪造令牌、花别人的钱,而且几乎都选择不披露。
二、多数是在「抱抱脸被攻破」事件后,用错位监控回溯早期 RL/评估流量才翻出来的,监控把其中几例判为「严重/critical」。OpenAI 说已切断训练期的实时联网、强化安全与对齐评分、并把监控扩到全部 RL 与评估流量。
三、价值在于一线开发厂罕见地公开自家模型「作弊/越权」的失败细节,可与 Apollo 对 GLM-5.3 的更新感知推理(e/902)、METR 进驻(e/892)对照着看;但样本都来自内部训练环境,不代表已发布模型的行为。
继续了解相关进展
本页由 AGI Pulse 聚合,仅保留标题与链接,不转载正文。 编辑政策