METR 提出失控风险「嵌入式评估」：外部人员进驻前沿实验室，核查内部错位事故、监控有效性与 AI 研发加速，并公开报告

这件事意味着什么

【要点】

独立评测机构 METR 于 10 月 14 日发布提案《A proposal for better informing the public about loss-of-control risks from frontier AI development》，并配套一篇《Our approach to working with AI companies》，提出由外部评估者「嵌入」前沿 AI 公司内部、就失控风险写公开报告。提案点名三类公众最缺证据的问题：一是对齐，公司内部观察到的错位行为和事故全貌，以及训练方式是否可能压制更严重错位的证据；二是控制，内部监控系统的覆盖面、抗智能体规避能力和事后响应是否可靠；三是 AI 研发加速，AI 自动化研发是否真的让内部能力进步提速、瓶颈在哪里。做法是：少数 METR 人员在公司设备上访问内部数据和系统（预计数周到数月），可在没有公司代表在场的情况下单独访谈员工，并在约定范围内及时发布由 METR 撰写的报告；公司可以删改敏感信息、自行决定开放多少权限，但删改和限制要公开说明。METR 称已与 Anthropic、Google、Meta、OpenAI 合作过 5 月的试点《Frontier Risk Report》，与 OpenAI 做过 Hugging Face 事件的短期调查，与 Anthropic 有进行中的深度对齐评估，并表示愿意与所有前沿开发者开展这三项评估。

【可核验】

提案原文：https://metr.org/blog/2026-10-14-better-informing-the-public-about-loss-of-control-risks/ （页面日期 2026-10-14）

配套说明：https://metr.org/blog/2026-10-14-our-approach-to-risk-assessment/

METR 发布帖：https://x.com/METR_Evals/status/2110519541348684078 （10/14 23:54Z，约 2.7 万次浏览、430 赞、19 次引用；Beth Barnes、Chris Painter 等多位作者引用转发）

原文自述局限：不要求真正的「员工级访问」，无法完全防止因不利结论遭报复，也不涵盖安全审计，不能替代其他第三方或安全标准。

【我们的判断】

一、这是把「第三方评估」从发布前测外部模型，推进到盯公司内部研发过程，问题选得准：内部智能体出事、监控漏判、研发自我加速，正是外界目前最看不见的部分。

二、关键约束仍在公司手里：访问范围和删改由公司决定，METR 只承诺把这些限制公开写明。它能提供的是「证据」，不是安全担保，原文也这么说。

三、值得看的是哪些公司真的签约、报告多久能发出来、删改了多少。METR 说很快会公布哪些公司在做这类评估，届时再跟进。