OpenAI 将在未来几周内为欧盟地区由 ChatGPT 和 Codex 生成的文本引入水印。该实施方案旨在满足《欧盟人工智能法案》对生成式人工智能的透明度要求。Cointelegraph 于 10 月 5 日报道称,水印将应用于欧盟地区所有订阅层级生成的符合条件的文本,并采用 OpenAI 内部的 textGrain 系统,将统计信号嵌入词语选择中。
OpenAI 部署 textGrain 水印系统
OpenAI 的 textGrain 系统将统计信号嵌入模型的词语选择中,而不会插入隐藏字符或额外空格。独立检测器可以验证文本中是否存在水印。水印将应用于欧盟地区 ChatGPT 和 Codex 在所有订阅层级生成的符合条件的文本。
水印功能默认仅限于欧盟地区
OpenAI 表示,文本水印功能在发布时默认仅在欧盟地区启用,不会成为全球默认设置。全球 API 客户可以选择为部分支持的模型启用水印功能。该功能旨在满足《欧盟人工智能法案》对生成式人工智能系统的透明度要求。
常见问题
OpenAI 在欧盟地区为 ChatGPT 和 Codex 使用什么水印系统?
OpenAI 使用名为 textGrain 的内部系统,将统计信号嵌入模型的词语选择中,而不会插入隐藏字符或额外空格。
OpenAI 的文本水印功能将在欧盟以外地区提供吗?
文本水印功能在发布时默认仅在欧盟地区启用,不会成为全球默认设置。全球 API 客户可以选择为部分支持的模型启用水印功能。