据 404 Media 报道,OpenAI 已聘用数百名承包商,在一个名为 Project Lily 的内部项目中审查真实 ChatGPT 用户的对话。承包商按照 1 至 7 分的标准对聊天机器人输出进行评级,以减少过度奉承和过于拟人化的回复。该计划引发了人们对 ChatGPT 超过 9 亿名用户隐私的担忧,其中许多人原本以为,他们的对话只会保留在自己与 AI 模型之间。
承包商每小时收入超过 50 美元,用于评估 ChatGPT 输出
OpenAI 通过名为 Crossing Hurdles 和 Mercor 的平台招募承包商。据报道,审查人员每小时收入超过 50 美元。他们按照七分制评估模型输出并提供反馈,这些反馈会被纳入模型训练流程。该计划旨在遏制聊天机器人过度奉承和过于拟人化的倾向。
隐私筛选模型被承认存在漏洞
用户提示会先经过隐私筛选模型,然后才会被承包商看到。该筛选器旨在删除个人身份信息。据报道所引用的内部文件承认,敏感的个人细节仍可能被筛选器放过,因为隐私筛选模型无法捕捉所有内容。一些用户提示明确表达了对隐私的担忧,这引发了人们对用户是否知情、是否知道真人会审查其交流内容的疑问。
退出设置不适用于过去的对话
OpenAI 允许用户选择不将其对话用于模型训练。用户可以在账户偏好设置中切换相关选项,或使用临时聊天功能;该功能不会将对话记录用于训练。相关控制仅适用于未来的对话。在选择退出之前的所有历史交流仍可供审查。默认设置允许 OpenAI 使用聊天数据,这意味着任何没有主动调整账户设置的人,其聊天数据都可能已被纳入使用范围。
意大利因隐私违规于 2023 年封禁 ChatGPT
多年前,苹果、亚马逊和谷歌被曝出让真人审听语音助手录音后,均面临强烈反弹。意大利曾于 2023 年因隐私担忧暂时封禁 ChatGPT,之后 OpenAI 作出调整以遵守 GDPR 要求。欧盟及其他地区的监管机构一直在审查 OpenAI 的数据处理做法。ChatGPT 的用户规模已超过 9 亿,这使该事件有别于早期的语音助手争议。
常见问题
如何退出将我的 ChatGPT 对话用于训练?
你可以在 ChatGPT 账户偏好设置中切换退出选项,或使用临时聊天功能。退出设置仅适用于未来的对话——所有历史交流仍可供审查。
OpenAI 的隐私筛选模型有什么作用?
隐私筛选模型旨在让承包商审查用户提示之前,从中删除个人身份信息。404 Media 报道所引用的内部文件承认,该筛选器存在漏洞,无法捕捉所有敏感信息。