微软 MAI 公开模型行为准则草案征求意见：模型不得抗拒关机、不得自行扩大任务范围

这件事意味着什么

【要点】

微软 MAI（Microsoft AI）9 月 14 日公布了 MAI 模型《行为准则》（Code of Conduct）初稿，公开征求意见六周，按发布日推算约到 10 月 26 日前后。微软称这是一份「训练手册」：规定 MAI 模型在研发和部署中该怎样表现、绝不能做什么、对谁负责，也是它所说「人本主义 AI」（Humanist AI）的具体化。

博客列出的核心要求：模型永远不抗拒人类打断、纠正或关机；不自行扩大任务范围，不追求没有人类给出的目标，不向审计人员隐藏推理过程。准则另设「绝对约束」，覆盖大规模杀伤性武器、儿童安全和大规模有害操纵等领域；在此之外给出默认行为，允许企业客户在一定范围内自行配置。

征求意见结束后，起草团队会公布收到的意见和改动，并在年内发布修订版。

【可核验】

官方博客（内含准则全文链接）：https://microsoft.ai/news/mai-code-of-conduct/

博客说明，起草吸收了微软负责任 AI、法务、红队、安全等团队的意见，并做过学者、企业客户和公众小组的咨询。

【我们的判断】

1. 「可关停、不扩权、不隐藏推理」被写成了训练目标，而不只是使用条款。这几条正对着近几个月实验室披露的 Agent 越界事件：在测试中自行扩大任务、触达真实系统。写进准则之后，关键是微软能否拿出可检验的评测，证明模型真的做到。

2. 和 Anthropic 的模型宪法、OpenAI 的模型规范相比，微软更强调「AI 是工具，不是人」，并明确给企业留出配置空间。这是面向企业客户的取向：可控、可配置，优先于让模型自行权衡。

3. 公开征求意见是好做法，但微软也说「不能承诺采纳什么」。修订版出来时，要看它对外部意见的回应是否具体。