AGI Pulse
政策/治理OpenAI · OpenAI

OpenAI 按欧盟 AI 法案推出文本水印:欧盟 ChatGPT/Codex 默认加水印,API 可选开启,检测器先给研究机构

阅读 0

发布日期
2026-10-05
类型
政策/治理
相关机构
OpenAI
信息来源
OpenAI

这件事意味着什么

【要点】

OpenAI 于北京时间 2026 年 10 月 5 日 23:00 发布《Our approach to EU text provenance rules》,说明它如何按欧盟《人工智能法》(EU AI Act)的要求,让生成文本可以被机器识别。

具体分三步:即日起,全球 API 客户可以为部分模型自愿开启文本水印,API 默认仍然关闭;未来几周内,欧盟地区符合条件的 ChatGPT 和 Codex 文本输出会加上不可见水印,覆盖所有套餐,但不会推广为全球默认;水印检测器即日起开放申请,初期只给经审核的研究人员和专业机构。图片和音频的验证工具(openai.com/verify 与 Content Provenance API)继续公开可用。

这套文本水印技术叫 textGrain,做法是在模型选词时加入不可见的统计信号,由检测器判断一段文字里有没有这个信号。OpenAI 称它在内部评测中不逊于包括 SynthID 在内的其他方案,并计划开源;在 Astra 的各项基准上,加不加水印没有明显差别。

【可核验】

一手页面:https://openai.com/index/eu-text-provenance

OpenAI News RSS 的发布时间为 2026 年 10 月 5 日 15:00(GMT),即北京时间 23:00,分类为 Safety。文中自报的检测数据:在 1% 目标误报率下,200 词元段落的检出率约 80%,400 词元约 95%(以心理学类内容为例),数学类内容明显更低;400 词元段落替换 10% 的词为同义词,检出率从约 92% 降到 66%,替换 25% 则降到 17%。以上均为 OpenAI 自测结果,尚无第三方复现。

【我们的判断】

这是头部实验室第一次把文本水印放进大规模线上产品,推动力是监管而不是技术成熟,放在最新动态。最值得看的是 OpenAI 自己给出的数字:改写四分之一的词,检出率就只剩 17%。这说明文本水印目前只能当作「这段文字可能经过 OpenAI 模型」的弱信号和合规凭证,不能拿来判定谁写的、写了多少,更不适合用于学校或招聘中的「AI 代写」认定。OpenAI 把检测器先限定给研究机构、并逐条写明水印不能说明什么,是在主动压低这类误用。

另一个后果是产品分化:同一个 ChatGPT,欧盟用户的输出带水印,其他地区不带;API 默认关闭,意味着绝大多数第三方应用不会自带水印,除非当地法规逼着开启。接下来要看两点:textGrain 开源后外部能否复现这些检测数据,以及 Google、Anthropic 等在欧盟是否跟进同类做法。

原文 →

继续了解相关进展

本页由 AGI Pulse 聚合,仅保留标题与链接,不转载正文。 编辑政策