Anthropic 让 METR 六人团队以「类员工」权限进驻内部,METR 可发布风险评估结论,Anthropic 无否决权
阅读 0
- 发布日期
- 2026-10-16
- 类型
- 政策/治理
- 相关机构
- Anthropic
- 信息来源
- agipulse
这件事意味着什么
【要点】
Anthropic 10 月 15 日发文,说明它如何落实上月「接受更强第三方评估」的承诺:已经给非营利评估机构 METR 的一个团队「类员工」权限。六名 METR 员工拿到公司电脑、办公位,以及大致相当于 Anthropic 内部风险评估团队的内部工具和系统权限;除客户数据、律师特权信息、模型架构等少数类别外,员工被鼓励像对同事一样向他们共享信息。
METR 会发布对 Anthropic 风险水平、事故和做法的分析。Anthropic 不能否决发布,只能按事先约定的窄类别要求删改;METR 可以公开说明删了什么类别、是否认为删得合理。Anthropic 同时公布三级评估权限:第一级由公司决定权限、发布需批准(SecureBio 目前在这一级,正在审它 8 月风险报告的化生武器章节);第二级可不经批准发布;第三级即 METR 这种「类员工」进驻。Accenture、Faculty 也在合作中,并与 Hugging Face 等机构早期接洽。
【可核验】
Anthropic 公告:https://www.anthropic.com/news/an-update-on-independent-evaluators
@AnthropicAI 帖子:https://x.com/AnthropicAI/status/2110784662071398807
【我们的判断】
一、这是 METR 前一天提出「嵌入式评估」(本站 e/879)后最快的落地,也正面回应了路透所说实验室想控制评估方发布内容的争议(e/862):关键条款是「无否决权、删改须可公开质疑」。
二、真正的考验是第一份 METR 报告:写得多具体、删改多少,比承诺本身更说明问题。
三、六个人、限定类别的进驻,规模仍小;架构信息默认不给,意味着评估方难以独立判断训练方法带来的风险。
四、这一步发生在 FTC 调查令(e/886)和欧盟 AI 办公室问询之后,监管压力正在把「自愿外部评估」变成行业门槛,OpenAI 等是否跟进值得关注。
继续了解相关进展
本页由 AGI Pulse 聚合,仅保留标题与链接,不转载正文。 编辑政策