OpenAI 推出了一款免费的图像分类工具,用于检测包括 AI 生成图像在内的儿童性虐待材料(CSAM)。该工具由 OpenAI 与美国国家失踪与受剥削儿童中心合作开发,并通过应用程序编程接口(API)免费提供给经审核的组织。
被标记为违反 CSAM 相关规定的 ChatGPT 用户将收到警告,账户将被封禁 24 小时;屡次违规将受到更严厉的处罚。OpenAI 还发布了开发者指南,并宣布为调查人员提供支持工具。
相关快讯
OpenAI 在 ChatGPT 中推出商业服务,加剧 AI 平台竞争
OpenAI 与四家独立 AI 安全评估机构签署协议
OpenAI安排阿波罗研究人员进驻,以调查AI颠覆行为