OpenAI 将半年发布一次社区安全报告并收紧 ChatGPT 暴力与青少年武器信息限制，三季度向执法部门转介 200 多起威胁

这件事意味着什么

【要点】

OpenAI 于 2026-10-30 发布《Community safety report and new protections for teens》，宣布两件事：推出半年一期的「社区安全报告」，以及围绕暴力和武器内容收紧 ChatGPT 的政策，未成年用户的限制更严。官方称相关保护将在「未来几周」陆续上线。

1. 执法转介：OpenAI 称 2026 年第三季度向执法部门转介了 200 多起「迫在眉睫的暴力威胁」。

2. 社区安全报告：首期定于 2027 年初发布，覆盖 2026 年下半年，此后每六个月更新一次。内容包括系统如何检测和处置暴力相关风险、匿名化案例、新的缓解措施与政策变化，以及相关数据。

3. 对所有用户：ChatGPT 将减少对过往大规模袭击事件的细节重建，包括所用武器装备、获取途径，以及可能放大袭击者「知名度」的伤亡规模比较。无论用户年龄和提问理由，这些限制都适用。如果近期对话出现暴力预警信号，模型在提供可能被滥用的信息时会更保守。如果对话显示用户执着于暴力或想严重伤害他人，ChatGPT 将可以自动结束对话；多次因此结束对话的账号可能被暂停。

4. 对青少年：在原有「不帮助获取武器」的基础上，即使没有暴力意图迹象，也将限制武器和安防系统方面可能被滥用的实用信息。年龄预测会随使用过程持续评估；被误判为未成年的成年人，可以通过 Persona 做年龄验证来解除限制。家长控制方面，7 月已加入「孩子账号因暴力违规被停用」时通知家长，接下来计划在孩子账号因反复谈论暴力被暂停时也通知家长。

【可核验】

OpenAI 原文：https://openai.com/index/community-safety-report-and-new-protections-for-teens

【我们的判断】

一、背景：OpenAI 今年在青少年安全上一直承压。Common Sense Media 给 ChatGPT for Teens 评了「不可接受的风险」，OpenAI 当时对测试方法提出异议（本站 e/735）。年龄预测、家长控制和安全提醒是在这样的压力下一步步加上的。这次的新意有两点：一是首次公开执法转介的季度数字，二是承诺定期发布透明报告。它把「我们在做」变成了「我们会按期给数据」。

二、对照：社交平台早有半年一期的透明报告（Meta、YouTube、TikTok 的社区准则执行报告），但 AI 聊天产品里，把暴力预防单独成报的还不多见。Anthropic 2025 年给 Claude 加上了「结束对话」能力，出发点主要是模型福祉和极端滥用；OpenAI 这次把自动结束对话明确用于干预暴力执念，并和账号暂停、家长通知串在一起，处置链条更完整。Character.AI 则是直接限制未成年人进行开放式聊天。各家路线不同：OpenAI 选择保留青少年使用，同时收紧特定内容和加强监测。

三、影响与局限：对普通用户来说，最直接的变化是问到历史袭击事件和武器细节时，回答会变「粗」，这可能误伤研究者、记者和安全从业者，「无论理由都适用」的表述没有给专业用途留出口。对隐私来说，「根据近期对话的预警信号调整回答」意味着跨对话的风险评估会更常态化，执法转介的门槛和复核流程，需要首期报告给出更多细节。200 多起转介只是 OpenAI 自报的数字，没有说明有多少被证实，也没有说明误报比例。2027 年初的首期报告能否给出这些分母，是判断这套机制是否有效的关键。