10 月 5 日,OpenAI 在欧盟范围对符合条件的 ChatGPT 和 Codex 输出推出了名为 textGrain 的水印系统,同时让全球 API 客户可以选开部分模型的水印。这件事的背景很直接:欧盟的文本溯源规则(Text Provenance Rules)要求平台对 AI 生成内容做可识别标记,OpenAI 这是把"合规"做成了产品功能。

水印的基本原理,是在模型输出里嵌入人眼不可见、但检测器能识别的统计信号,从而回答一个越来越现实的问题:"这段字,是人是机?"OpenAI 给出的实测数字挺亮眼:在约 1% 误报率(把真人文字误判成 AI)的前提下,对 400 token 左右的心理学段落,textGrain 的检出率约 95%。作为第一道防线,这个表现不算差。

但同一组测试也暴露了软肋:当文本被做了约 25% 的同义词替换(也就是轻度改写)后,检出率从 95% 一路掉到 17%。换句话说,水印对"原样照搬"的 AI 文本有效,可一旦有人有意无意地润色、改写、翻译、转述,信号就大幅衰减。这对内容平台、教育机构、新闻出版方是个清醒提醒:水印不是"一盖永逸"的防伪章,而是"增加识别概率"的一层辅助。

为什么这么容易掉?因为当前文本水印大多作用于词元层面的统计分布,改写会扰动这种分布;而图像、音频水印可以嵌在频域等更鲁棒的位置,文本却难在不损可读性的前提下藏得太深。OpenAI 自己也在广告侧同步做了配套——广告内容标注、与 DoubleVerify、Integral Ad Science 做适用性评估,说明他们清楚单靠水印撑不起全部信任机制,得和披露、标注、第三方核验一起用。

对普通用户和创作者,textGrain 的意义有两面。正面是:在 EU 这种强监管市场,AI 内容终于有了"可溯源"的默认路径,有助于遏制"假装原创""AI 洗稿"之类问题;负面是:水印的脆弱性意味着它不能成为判定抄袭或造假的孤证,否则极易误伤——尤其对非母语写作者、爱改写的用户,17% 的残留识别率几乎等于"改一改就查不出"。

把这件事放回更大的治理图景:从白宫的自愿安全协议、FTC 的 Agent 调查,到欧盟的溯源规则、挪威拟禁 AI 眼镜、加州《禁止机器人老板法案》——全球对 AI 的"可识别、可追责、可边界"诉求正在具体化。textGrain 是其中"可识别"的一环,技术诚实(1% 误报 / 改写即掉到 17%)反而比夸大宣传更有价值:它告诉监管和公众,溯源能力有,但边界也很清楚。真正可靠的 AI 内容治理,终究要靠水印、披露、平台规则和法律多条腿走路,而不是指望某一个算法盖章。