纳德拉长文：把前沿模型当「内部人风险」来管，控制权必须放在模型之外

这件事意味着什么

【要点】

微软 CEO 萨提亚·纳德拉北京时间 10 月 10 日 22:43 在 X 发表长文《超级智能时代，把模型当作内部人风险》。核心主张是：今天的前沿模型比传统软件更强，却没法把行为追溯到某段代码或某批训练数据；企业不能把责任外包给模型厂商，厂商的保证也不能免除部署方的责任。他提出要「把智能的供给和对智能的支配权分开」：不论闭源还是开放权重模型，都按内部人风险来设计系统，不是因为模型一定有恶意，而是任何有能力、又能接触重要系统的角色都可能出错或被攻破。发出约 70 分钟后，长文浏览约 25.5 万、引用 95 次、收藏 638 次；马斯克 23:34 引用转发称「有意思」，该帖不到 20 分钟浏览超 50 万，X 上相关讨论从每小时个位数升到近 50 条。

【可核验】

长文列出的具体要求包括：思维链透明「不可谈判」，不能以模型用内部表示推理为由不公开，但他也承认思维链本身不一定忠实；用模型互相对抗测试有用，但会变成「不透明模型看着不透明模型」；所以访问权限和可执行动作的控制必须放在模型之外，把模型、编排框架和动作空间拆开。他列了七条原则：模型多样性、所有关键动作留下防篡改且人能读懂的记录、持续测试失败和攻击场景、由企业独立决定权限、审计独立于被审计的模型、默认模型已被攻破并随时可由授权人员中途叫停、出事后及时披露并在行业内共享。结尾一句是：最值得信任的超级智能系统，不是用了最可信模型的那个，而是让我们可以最少信任模型的那个。文中没有提到任何具体产品或时间表。把 AI 当内部人风险的思路此前已有政策备忘录（arXiv 2606.06028，6 月）提出。

【我们的判断】

这篇文章最重要的不是安全口号，而是把信任的位置从模型挪到了模型外面的那一层。对同时上架多家模型、又掌握身份、权限、日志和安全产品的微软来说，这既是工程主张，也是商业站位：如果信任靠外部管控而不靠选对模型，谁的模型领先就没那么关键，控制层的价值反而更大；「模型多样性」一条也和微软减少单一模型依赖的路线一致。值得注意的是时间点：一天前白宫刚把 AI 事故通报和补救定为强制要求，现在最大的企业软件买家也把「出事披露、共享教训」写进原则，事故披露正在从自愿变成默认。对模型厂商的压力会落在两处：一是思维链，如果大客户把可读的完整推理写进采购条款，只给摘要的做法会首先受挑战；二是可叫停和可审计要求厂商开放更多运行时接口。局限也很明显：文章刻意绕开对齐难题，而长时间运行的 Agent 会产生海量记录，最后多半还得靠模型去读，「独立审计」能独立到什么程度还没有答案。接下来要看微软会不会把这七条落到 Foundry、Copilot 等产品的默认设置里，或者推动成行业标准，而不只是一篇长文。