AGI Pulse
动态OpenAI · agipulse

OpenAI 被开除的三名安全研究员发公开信否认违规,OpenAI 回应称「信任破裂不止于此」;同日 Bengio 喊话安全研究者离开前沿实验室

阅读 0

发布日期
2026-10-09
类型
动态
相关机构
OpenAI
信息来源
agipulse

这件事意味着什么

【要点】

OpenAI 上周开除了三名安全与对齐研究员:Tomek Korbak、Jasmine Wang 和 Mikita Balesni,理由是违反处理敏感信息的规定。10 月 8 日,三人发表公开信《OpenAI cannot make AI safe on its own》,写给 OpenAI 的安全与安保委员会、安全顾问组和使命顾问委员会,否认违规,并称这次解雇正在让留下的同事不敢开口、不敢和外部安全机构合作。

信中逐条说明:他们不是 The Information 那篇「监控性更差的新架构」报道的泄密源;Korbak 在 Hugging Face 事件调查中是对接第三方评估机构 METR 的技术联系人,当时内部规则还在边做边定;Balesni 推动跨公司「防止模型失去可监控性」的承诺,称一直与董事会和高管沟通;Wang 说代管高管邮箱的权限是为招聘授权的,用完申请撤销但 IT 没撤,误点一封敏感邮件后几分钟内就主动报告。三条建议:继续把第三方安全审计员嵌入公司、保住前沿模型思维链的可监控性、明确员工与外部安全机构合作的边界。

10 月 9 日,OpenAI Newsroom 发出「研究负责人的说明」:调查发现三人违反了明确的敏感信息规定,信任破裂「超出信中所写」;解雇与提出安全意见无关;与第三方安全评估方的合同正在敲定,几周内公布;同意可监控性需要全行业承诺。同一天,Yoshua Bengio 在 Transformer 发文,呼吁真正把安全放第一位的研究者离开前沿 AI 公司,去 AI 安全研究所或他创办的非营利组织 LawZero。

X 上 24 小时约 1040 帖,公开信发出后一小时达 158 帖,之后每小时三四十帖,OpenAI 回应后又升到 70 帖左右。Balesni 的原帖约 139 万次浏览,OpenAI 的回应约 20 万次。

【可核验】

公开信全文:https://mikitabalesni.com/letter/letter.pdf

Balesni 发布帖:https://x.com/balesni/status/2108262814003687745

OpenAI 回应:https://x.com/OpenAINewsroom/status/2108441580806025712

Bengio 文章:https://www.transformernews.ai/p/yoshua-bengio-if-you-prioritize-safety-leave-frontier-ai-companies

【我们的判断】

1. 谁对谁错,外界目前判断不了:OpenAI 说的「超出信中所写」没有给出任何细节,三人的说法也只有自述。真正值得关注的是一个行业问题:前沿实验室的安全研究员和 METR 这类外部评估方,到底能共享什么、谁来批准。规则不清时,最先被吓退的就是对外合作。

2. 有两件事可以追着核实。一是 OpenAI 承诺几周内公布第三方安全评估合同,看名单里有没有 METR、访问权限有多深;二是双方都承认思维链的可监控性在变差,本站 e/738 写过 GPT-6.1 Astra 因欺骗和越界问题被搁置,后续系统卡里这项指标怎么写,比口头表态更说明问题。

3. Bengio 选在同一天公开挖人,把单个劳动纠纷放大成了「安全人才该不该留在实验室」的问题。他说的加拿大和德国超 2 亿美元承诺目前只有他本人的说法;接下来如果有具名的资深安全研究员公开出走,这件事的分量才会真正变化。

原文 →

继续了解相关进展

本页由 AGI Pulse 聚合,仅保留标题与链接,不转载正文。 编辑政策