Anthropic 为美国中期选举加固 Claude:只有 0.01% 的对话问「该投给谁」,官方投票信息和实时计票将直接进回答,新分类器专抓被拆成小任务的虚假宣传
阅读 0
- 发布日期
- 2026-10-15
- 类型
- 政策/治理
- 相关机构
- Anthropic
- 信息来源
- agipulse
这件事意味着什么
【要点】
Anthropic 10 月 14 日(美国时间)发文,介绍为 2026 年美国中期选举加固的选举防护措施,并首次公开 Claude 上政治类对话的使用数据:
一、用量数据:对 9 月 21–27 日约 25 万条美国 Claude.ai 消费者对话的隐私保护抽样显示,涉及政治、公共政策或社会议题的约占 5.75%,专门谈选举或投票的约 0.51%;直接问「该投给谁/投什么」的只有约 0.01%,违反选举诚信政策的请求约 0.002%。
二、权威信息接入对话:本月晚些时候,Claude.ai 会在回答中直接引用无党派机构 Democracy Works 汇总的各州官方投票信息(投票地点、需带证件等);选举当晚及之后几天,问计票结果时会显示最新官方数字。原有的 TurboVote 横幅继续保留。
三、政治偏向:Anthropic 称 Opus 5.5、Sonnet 5.5、Haiku 5.5 在其政治中立评测中得分 99%,拒答更少。三家外部机构(Future of Free Speech、Foundation for American Innovation、Collective Intelligence Project)的独立评估认为多数回答有实质内容,但也指出 Claude 会主动加未被要求的提醒和反方观点,且 Sonnet 4.5 更容易弱化右倾立场的论证;Anthropic 说正在改进是非题和短答场景的平衡性。
四、滥用防护:与 ISD、McCain Institute 在美国、以色列、巴西做压力测试,发现 Claude 能稳定拒绝单条有害请求,但会漏掉被拆成很多「看起来无害」小任务的恶意竞选活动。为此新增了识别多步滥用的分类器(假社交账号、假新闻站、牟利型选举骗局),并加强对外国国家行为者的检测。
五、已处置案例:境外假新闻站运营者用 Claude 生产偏向俄罗斯、伊朗、朝鲜叙事的中期选举报道;另有人批量制造假新闻赚广告费。相关账号均已封禁。
【可核验】
Anthropic 原文:https://www.anthropic.com/news/2026-us-midterms
【我们的判断】
一、最有信息量的是「拆分攻击」这个发现:单条请求的拒答率已经不是问题,真正的漏洞在于把一场虚假宣传拆成受众调研、建站、写稿、分发等零散任务。这和智能体安全里的多步越权是同一类问题,靠逐条审核挡不住,需要跨请求的行为检测。
二、0.01% 的「替我选」比例说明,用户主要把 AI 当查资料、看立场的工具,而不是投票顾问;把官方投票信息和实时计票直接接进回答,是把风险最高的事实类问题交给权威数据源,比让模型自己回答稳妥。
三、99% 中立分数来自 Anthropic 自己的评测,外部评估同时指出了不对称的「对冲」问题;中立性以后更该看第三方在真实对话上的复测,而不是自家单一分数。
继续了解相关进展
本页由 AGI Pulse 聚合,仅保留标题与链接,不转载正文。 编辑政策