OpenAI将为欧盟境内的ChatGPT文本添加隐形水印，以符合《人工智能法》规定
这种名为textGrain的水印将统计模式隐藏在模型的用词选择中。未来几周将向欧盟的ChatGPT和Codex用户推出；全球的API开发者可以开启该功能，但默认关闭。
宣布内容： 据TechCrunch报道，OpenAI周一表示，将开始为欧盟境内由ChatGPT和Codex生成的文本添加隐形水印，以遵守欧盟《人工智能法》。该法于8月2日生效的透明度规则要求人工智能公司以其他系统能够识别的方式标记人工智能生成的内容。此次推出仅覆盖欧盟境内所有套餐的符合条件用户；OpenAI表示不会将文本水印设为全球默认设置。
工作原理： 没有任何可见标记。根据OpenAI与宾夕法尼亚大学和耶鲁大学研究人员合写的一份技术报告，该系统会微调模型选用的词语，留下人眼看不到、但持有密钥的检测器能够发现的模式。由于信号存在于词语本身，复制粘贴后依然保留。OpenAI表示，水印不会识别用户身份，开启后也未发现模型性能有明显变化。
局限性： 编辑会削弱水印。据The Decoder报道，在OpenAI的测试中，将10%的词语替换为同义词后，对400个token段落的检测率从约92%降至66%，替换四分之一的词语则使检测率降至20%以下。短段落、数学答案和翻译文本也更难检测。OpenAI提醒，没有水印“并不能证明是人类所写”，而检测到水印也说明不了一段文字中有多少人工编辑或判断。
谁能检测： 据The Decoder报道，目前检测器仅向获批的研究人员和专家机构开放，OpenAI表示将逐案审批。该工具只会报告是否发现了OpenAI水印。
背景： TechCrunch指出，Anthropic两个月前表示将在全球范围内为Claude生成的文本添加水印，此举遭到部分用户反对。据The Decoder报道，与Anthropic的强制做法不同，OpenAI的API水印需用户自行选择开启。