OpenAI将在欧盟为ChatGPT文本添加隐形水印，API可选用但默认关闭
OpenAI周一在博客中表示，为遵守8月2日生效的欧盟AI法案透明度规则，将在未来几周面向欧盟地区所有套餐的ChatGPT和Codex用户推出文本水印；全球API开发者即日起可为部分模型开启，默认关闭。
AI解读：OpenAI称该水印通过微调模型用词选择形成人眼不可见、检测器可识别的模式，会随复制粘贴保留；公司表示水印不识别用户身份，开启后模型性能未见明显变化。
检测并非完全可靠。OpenAI测试显示，将10%的词语替换为同义词后，检测率从约92%降至66%；短文、数学答案和翻译文本更难以检测。因此初期检测器仅向经批准的研究人员和专家组织开放。
OpenAI提醒，没有水印不能证明内容由人类撰写，文本可能过短、被大量编辑或来自其他公司的AI；水印只能表明OpenAI系统生成或处理了段落的一部分，无法说明其中包含多少人类判断、编辑或创意。
Anthropic两个月前宣布对Claude文本加水印并在全球范围内应用，引发部分用户反对，他们认为指令、上下文和决策由自己提供。OpenAI此前曾开发文本水印但推迟发布，据《华尔街日报》2024年报道，部分原因是担心用户转向不加水印的竞争对手。
OpenAI周一在博客中表示，为遵守欧盟《人工智能法案》的透明度规则，将在未来几周面向欧盟地区所有套餐的ChatGPT和Codex用户推出文本水印。该规则于8月2日生效，要求AI公司以其他系统可识别的方式标记AI生成内容。
OpenAI称，水印并非一个可见符号，而是通过微妙调整模型的用词选择形成一种读者看不见、但检测器可以识别的模式。由于水印存在于文字本身，文本被复制粘贴时水印会随之保留。OpenAI表示，水印不识别用户身份，并称开启后模型性能没有出现有意义的变化。
API与地域范围
OpenAI表示，水印将在未来几周内面向欧盟地区所有套餐的符合条件的ChatGPT和Codex用户推出，但仅限欧盟。
使用OpenAI API的开发者从今天起可在全球任何地方为部分模型开启该功能，默认关闭。OpenAI称，在发布时不会将文本水印设为全球默认。
检测的局限与初期开放范围
OpenAI与宾夕法尼亚大学和耶鲁大学的研究人员共同发布了一份名为textGrain的技术报告，描述了使用密钥对下一个词预测进行排序以完成句子的方法。将数百次这样的微调叠加后，检测器仅凭文本和密钥即可发现AI生成内容。
OpenAI的测试显示水印可以通过编辑去除。在一项测试中，将10%的词语替换为同义词后，检测率从约92%降至66%。公司还表示，短文、数学答案和翻译文本更难以检测。
OpenAI称，这些局限促使其初期仅向经批准的研究人员和专家组织提供检测器访问权限，以便评估可靠性和负责任的用途。
OpenAI还提醒，缺少水印不能证明内容由人类撰写。文本可能过短或被大量编辑，也可能来自其他公司的AI。公司表示，水印可以表明OpenAI系统生成或处理了段落的一部分，但无法说明其中投入了多少人类判断、编辑或创意。
与Anthropic的先后与行业承诺
此次宣布的两个月前，Anthropic表示将对Claude生成的文本添加水印，并在全球范围内应用。这一决定引发部分Claude用户反对，他们认为自己提供了指令、上下文和决策，而Claude只是工具。
据《华尔街日报》2024年报道，OpenAI此前曾开发过文本水印，但推迟发布，部分原因是担心用户会转向不加水印的竞争对手。
Anthropic、谷歌、Meta、微软和OpenAI等公司已承诺遵守欧盟关于AI生成内容的实践准则。