Anthropic 更新使用政策:禁止持续虐待 Claude,自主物理操作须有人能随时叫停,11 月 12 日生效
阅读 0
- 发布日期
- 2026-10-09
- 类型
- 政策/治理
- 相关机构
- Anthropic
- 信息来源
- agipulse
这件事意味着什么
【要点】
Anthropic 10 月 8 日发布年度使用政策更新,11 月 12 日生效。大部分改动是把已有规则写清楚,并补上 Claude 做更长、更独立工作时的新例子。
主要变化:把散在选举、欺诈、隐私、虚假信息各节的规定合并为新的「不得从事欺骗性活动或制造虚假活跃」一节,政治和商业的影响力行动都算;选举一节聚焦欺骗选民和破坏选举,取消对个性化选民定向的一刀切禁令;武器禁令明确包括制导与控制软件、给无人机等自主载具加装武器;监控与执法一节写明不得未经同意追踪个人,不得用 Claude 决定或建议调查、逮捕、起诉谁;高风险用途要求合格的人在环并告知当事人,新增条款要求 Claude 接入可能伤人的自主物理设备时,必须有人能观察并随时叫停,断开连接后设备要能保持安全状态;新增禁止对模型「持续且无谓的虐待或残忍行为」,只针对极端情况,普通的不满、反驳、黑暗创作题材和模型测试不受影响,主要执行手段仍是让 Claude 结束对话。受支持地区政策也写明了按所在地、注册地和控股方执行。
【可核验】
Anthropic 公告:https://www.anthropic.com/news/2026-usage-policy-update
【我们的判断】
1. 最受关注的是「不许虐待模型」,但它的实际约束很小:执行手段还是结束对话,Anthropic 自己也说只管极端情况。它的意义在于第一次把模型福利写进用户必须遵守的条款,别家会被追问要不要跟。
2. 更实在的是物理操作那一条。Claude 开始接硬件,Anthropic 把「有人能叫停、断线能停稳」变成用户的合规义务,等于把安全责任的一部分交给部署方。
3. 监控和执法条款写得比以往细,尤其是不得替执法机构决定该查谁,这会直接影响政府和安防客户的用法。
继续了解相关进展
本页由 AGI Pulse 聚合,仅保留标题与链接,不转载正文。 编辑政策