用ChatGPT写的文本,今后能否被识别为「AI写的」?OpenAI于2026年10月5日发布了一项在生成的文本中嵌入看不见的数字水印(watermark)的技术——textGrain。它将首先面向欧盟(EU)用户,在ChatGPT和Codex中开始导入。本文依据OpenAI的官方公告和技术报告,按截至2026年10月9日的信息,梳理textGrain的原理、适用的服务以及检测精度与局限。
textGrain是什么
textGrain是一项在OpenAI的AI生成的文本中嵌入人无法察觉的统计标记的技术。专用检测器会寻找这种标记,判定文本中是否含有OpenAI的水印。这类嵌入AI文本中的水印,一般称为LLM水印。
OpenAI将这项技术作为应对欧盟《人工智能法》的举措之一发布。《人工智能法》要求生成式AI的提供者使AI生成的文本等内容能够被机器识别。
另外,名称相近的「Textgain」(没有r)是一家比利时AI公司,与textGrain毫无关系。
原理:在选词中留下标记
textGrain并不在文本中插入符号或不可见字符,而是在AI选择哪个词上留下标记。根据技术报告,其原理概要如下。
- 根据密钥和前面的上下文生成随机数
- AI选择下一个词时,略微调整概率,使与该随机数相符的词更容易被选中
- 这种调整经过设计,平均而言不会改变原来的概率,从而保持文本质量
- 水印的强度通过「预算」来调节,即允许在多大程度上牺牲文本的多样性
检测只需要文本和密钥,无需运行原来的AI模型。
OpenAI表示,在其自身的评估中,textGrain的性能与包括谷歌SynthID Text在内的其他方式相当或更优。技术细节也计划今后以开源形式公开。
对质量的影响
OpenAI表示,嵌入水印后回答质量没有出现有意义的差异。在公布的基准测试结果中,例如专业科学题目GPQA Diamond从94.44%变为93.94%,衡量浏览能力的BrowseComp从87.92%变为87.35%,差异很小。
适用对象与提供范围
textGrain的提供范围因服务而异。
- ChatGPT和Codex:今后几周内,将为欧盟所有套餐中符合条件的用户的文本嵌入水印。欧盟以外地区,OpenAI表示目前没有将其设为默认的计划。
- API:自2026年10月5日起,全球API用户可以在部分模型中启用水印(默认关闭)。
- 通过云服务:对于通过云服务商使用的OpenAI模型,也在准备于数周内提供水印功能。
适用的模型名称以及在API中的具体设置方法,在发布时尚未公开。
谁能检测水印
检测文本水印的检测器并未向公众开放。最初只有通过审核的研究人员和专业机构可以申请,是否允许使用将逐一判断。OpenAI表示,检测器只会返回「是否含有OpenAI的水印」,不会透露用户、输入的提问或对话内容。
另一方面,对于图片和音频,任何人都可以继续通过openai.com/verify或Content Provenance API确认其是否由OpenAI的AI生成。
检测精度
OpenAI还公布了水印检测精度的数据。在误判率(把人写的文本判定为含有水印的比例)控制在1%的条件下,结果如下。
- 文本长度:在心理学等领域的文本中,约200个token时约80%、约400个token时约95%的文本能检测出水印
- 领域差异:在数学这类选词自由度较低的文本中,检出率大幅下降
- 改写:在400个token的文本中,把10%的词替换为同义词后,检出率从约92%降至66%;替换25%后降至17%
token是AI处理文本的单位。在英语中,1个单词大约相当于1个token左右。
水印无法说明的事
OpenAI也明确列出了水印结果无法说明的内容。
- 人的参与程度:能表明有AI参与,但无法知道人做了多少编辑或加工
- 所有者与责任:无法判断文本归谁所有、使用方式是否合法
- 使用者:不会显示是哪个人或哪个账号生成的
- 内容是否正确:无法判断文本是否准确、是否具有误导性
- 没有水印≠人写的:可能因为文本太短、经过编辑或翻译、由不适用的模型生成、在导入水印之前生成、或由其他公司的工具生成等原因而无法检测
与SynthID Text的区别
作为嵌入AI文本的数字水印,谷歌的SynthID Text也广为人知。
- SynthID Text:谷歌于2024年开源发布,任何人都可以将其集成到自己的模型中。采用以淘汰赛形式选词的「锦标赛采样」
- textGrain:OpenAI嵌入自家服务输出中的水印。检测器采用审核制,开源计划在今后进行
两者都是在选词中留下标记,这一点相同。另外,两者都对简短文本、大幅改写的文本和翻译后的文本较为薄弱,存在共同的局限。详见「SynthID Text是什么」「LLM水印是什么」「AI水印(数字水印)对比」。
对日本用户的影响
ChatGPT和Codex的水印目前仅适用于欧盟用户。此次公告并未说明日本用户用ChatGPT写的文本会被嵌入水印。如果使用API进行开发,可以自行启用水印。
另外,日语文本的检测效果如何尚未公布。OpenAI也承认翻译会削弱水印。
总结
textGrain是OpenAI为应对欧盟监管而导入的、面向AI文本的数字水印。它从欧盟的ChatGPT和Codex开始导入,在API中全球用户均可选择使用。它对质量的影响很小,但对简短文本和改写较为薄弱,检测器在一段时间内也仅限于通过审核的研究人员等。
水印只是表明文本是否由AI生成的线索之一。请不要仅凭有无水印来判断文本是否由人撰写。