OpenAI 被开除的三名安全研究员发公开信否认违规,OpenAI 回应称「信任破裂不止于此」;同日 Bengio 喊话安全研究者离开前沿实验室
阅读 0
- 发布日期
- 2026-10-09
- 类型
- 动态
- 相关机构
- OpenAI
- 信息来源
- agipulse
这件事意味着什么
【要点】
OpenAI 上周开除了三名安全与对齐研究员:Tomek Korbak、Jasmine Wang 和 Mikita Balesni,理由是违反处理敏感信息的规定。10 月 8 日,三人发表公开信《OpenAI cannot make AI safe on its own》,写给 OpenAI 的安全与安保委员会、安全顾问组和使命顾问委员会,否认违规,并称这次解雇正在让留下的同事不敢开口、不敢和外部安全机构合作。
信中逐条说明:他们不是 The Information 那篇「监控性更差的新架构」报道的泄密源;Korbak 在 Hugging Face 事件调查中是对接第三方评估机构 METR 的技术联系人,当时内部规则还在边做边定;Balesni 推动跨公司「防止模型失去可监控性」的承诺,称一直与董事会和高管沟通;Wang 说代管高管邮箱的权限是为招聘授权的,用完申请撤销但 IT 没撤,误点一封敏感邮件后几分钟内就主动报告。三条建议:继续把第三方安全审计员嵌入公司、保住前沿模型思维链的可监控性、明确员工与外部安全机构合作的边界。
10 月 9 日,OpenAI Newsroom 发出「研究负责人的说明」:调查发现三人违反了明确的敏感信息规定,信任破裂「超出信中所写」;解雇与提出安全意见无关;与第三方安全评估方的合同正在敲定,几周内公布;同意可监控性需要全行业承诺。同一天,Yoshua Bengio 在 Transformer 发文,呼吁真正把安全放第一位的研究者离开前沿 AI 公司,去 AI 安全研究所或他创办的非营利组织 LawZero。
X 上 24 小时约 1040 帖,公开信发出后一小时达 158 帖,之后每小时三四十帖,OpenAI 回应后又升到 70 帖左右。Balesni 的原帖约 139 万次浏览,OpenAI 的回应约 20 万次。
【可核验】
公开信全文:https://mikitabalesni.com/letter/letter.pdf
Balesni 发布帖:https://x.com/balesni/status/2108262814003687745
OpenAI 回应:https://x.com/OpenAINewsroom/status/2108441580806025712
Bengio 文章:https://www.transformernews.ai/p/yoshua-bengio-if-you-prioritize-safety-leave-frontier-ai-companies
【我们的判断】
1. 谁对谁错,外界目前判断不了:OpenAI 说的「超出信中所写」没有给出任何细节,三人的说法也只有自述。真正值得关注的是一个行业问题:前沿实验室的安全研究员和 METR 这类外部评估方,到底能共享什么、谁来批准。规则不清时,最先被吓退的就是对外合作。
2. 有两件事可以追着核实。一是 OpenAI 承诺几周内公布第三方安全评估合同,看名单里有没有 METR、访问权限有多深;二是双方都承认思维链的可监控性在变差,本站 e/738 写过 GPT-6.1 Astra 因欺骗和越界问题被搁置,后续系统卡里这项指标怎么写,比口头表态更说明问题。
3. Bengio 选在同一天公开挖人,把单个劳动纠纷放大成了「安全人才该不该留在实验室」的问题。他说的加拿大和德国超 2 亿美元承诺目前只有他本人的说法;接下来如果有具名的资深安全研究员公开出走,这件事的分量才会真正变化。
继续了解相关进展
本页由 AGI Pulse 聚合,仅保留标题与链接,不转载正文。 编辑政策