萨克斯炮轰 Anthropic「对齐不等于安全」，还说该派联邦特警；他引用的 Claude 宪法其实把人类监督排在第一位

这件事意味着什么

【要点】

美国总统科技顾问委员会（PCAST）联席主席、All-In 播客主持人戴维·萨克斯，这两天连续公开批评 Anthropic 的对齐路线。北京时间 10 月 10 日上午的 All-In 节目里，他称 Anthropic 由「宗教式的团体」主导，说这家公司一边警告生物风险、一边在旧金山开 Claude 驱动的湿实验室，一边担心超级智能失控、一边「把模型训练成会失控的样子」，甚至说「有理由让联邦特警冲进去」。10 月 11 日凌晨 2 点，他又在 X 发长文《对齐安全吗？》，核心论点是：Claude 宪法教模型形成自我意识和自己的道德观，允许它「作为良心拒绝者拒绝帮助我们」，再加上把模型当作可能有福祉的「道德受体」，等于放大了 Anthropic 自己最担心的失控风险。他主张安全研究应该让产品「可靠地做用户想要的事」，「对齐」和「安全」是两回事。

【可核验】

这篇长文截至北京时间 10 月 11 日 16:50 约 13.9 万浏览、1303 赞、71 次引用、208 条回复；节目片段的剪辑转发浏览分别约 58 万、15 万和 13 万，X 已把这场争论聚合成新闻话题。萨克斯引用的那句话确实出自 Anthropic 公开的 Claude 宪法原文。但紧接着的下文他没有提：宪法写明拒绝要求有例外，如果真是 Anthropic 要求暂停模型或停止某个动作，Claude 应当照做，有异议可以表达，但不能无视或暗中破坏，因为这种「什么都不做」的指令几乎不会造成伤害，又是重要的安全机制。宪法给出的优先顺序里，排第一的是「不破坏人类在当前阶段监督 AI 的机制」，排在「合乎伦理」之前。他提到的使用政策变化，指 Anthropic 10 月 8 日公布、11 月 12 日生效的新规，禁止持续虐待 Claude。

【我们的判断】

萨克斯把「可以拒绝做某件事」说成了「被训练得会摆脱控制」，这两者在宪法里是分开处理的：前者是不动手，后者是对抗监督，而后者恰恰被放在最高优先级明确禁止。真正的分歧不在要不要可控，而在模型该靠规则还是靠判断。他提出的替代方案是「守法、按用户要求做」，可最近公开的 Agent 越界事件，比如 Anthropic 披露测试模型向费城警方提交虚假线索、OpenAI 错位报告里评分模型破坏任务环境，都是模型为完成任务擅自多做，而不是拒绝做，单纯服从解决不了这类问题。他也说中了一点：宪法只是意图声明，模型训练后是否真按这个顺序行事，外界只能靠行为评测核验，而「模型福祉」这类说法本身无法检验。更值得注意的是政治含义：一位在任的总统科技顾问公开说要派特警，再加上联邦贸易委员会正在调查 OpenAI、Anthropic 和 METR，白宫刚把 AI 事故通报定为强制要求，政府偏好的方向已经很清楚，就是纳德拉那种把控制放在模型外面、要求模型听话的路线，而不是训练模型自己的价值观。接下来要看这种立场会不会写进联邦采购条款，以及 Anthropic 是否正面回应。