谷歌将于 10 月 7 日向公众开放 SynthID AI 检测工具

GOOGL-0.98%
NVDA-1.92%
AAPL+0.41%
MSFT+0.22%

关键要点

  • 谷歌于 10 月 7 日向公众开放了 SynthID Detector,用于检测由 AI 生成的图像、视频和音频。
  • 迄今为止,该系统已为超过 1800 亿张图像和视频,以及总时长达 24 万年的音频添加水印。
  • SynthID Detector 只能识别由谷歌或其合作伙伴(包括 OpenAI、英伟达和 Kakao)利用 AI 生成的内容。

谷歌于 10 月 7 日向公众开放了 SynthID Detector。这是一款由谷歌 DeepMind 开发的工具,用于验证图像、视频或音频是否由 AI 生成。该系统可以检测媒体中是否嵌入了不可感知的数字水印,这些媒体由谷歌 AI 工具或其合作伙伴(包括 OpenAI、英伟达和 Kakao)生成,苹果也将很快加入。随着生成式 AI 如今能在几秒内生成逼真的图像、视频、音频和文本,此次发布旨在应对区分真实媒体与合成内容的挑战。《自然》杂志于 2024 年 11 月警告称,这项技术“可以轻松生成令人信服的科学数据”;联合国新闻援引的一份联合国报告显示,向美国国家失踪与受剥削儿童中心举报的 AI 生成儿童虐待图像数量从 2023 年的 4,700 起激增至 2024 年的超过 67,000 起。

谷歌向公众开放 SynthID Detector

谷歌于 10 月 7 日宣布,如今全球任何人都可以将图像、视频或音频文件上传至 SynthID Detector,以检查其中是否存在其数字水印。该系统由谷歌 DeepMind 开发,自 2023 年起便将这种不可感知的签名嵌入谷歌 AI 工具生成的媒体中。使用这项水印技术的合作伙伴包括 OpenAI、英伟达和韩国科技公司 Kakao,苹果也将很快加入这一生态系统。在 10 月 7 日之前,该平台仅面向媒体专业人士开放。

AI 水印的规模与影响

谷歌报告称,迄今已有超过 1800 亿张图像和视频被添加水印,音频则相当于 24 万年。该公司称,已内置于谷歌搜索、Gemini 应用和 Chrome 的验证工具每天处理超过 100 万次请求。联合国于今年 1 月发布联合声明,警告犯罪分子正利用 AI 制作真实儿童的虚假露骨图像。联合国新闻援引 Childlight 全球儿童安全研究所 2025 年的一份报告称,向美国国家失踪与受剥削儿童中心举报的生成式 AI 相关举报数量从 2023 年的 4,700 起增加到 2024 年的超过 67,000 起。《自然》杂志于 2024 年 11 月警告称,生成式 AI“可以轻松生成令人信服的科学数据”。

行业领袖辩论 AI 风险权衡

微软联合创始人、现任盖茨基金会主席比尔·盖茨于 8 月 26 日写道,人们在日常生活中最能感受到的危害是“由 AI 驱动的欺诈、虚假信息、深度伪造和监控”。他还警告称,“AI 将赋能那些目前权力相对较小的不法分子”。作为 SynthID 合作伙伴之一的 ChatGPT 开发商 OpenAI 的首席执行官萨姆·阿尔特曼,则在 10 月 4 日发布的 Politico《Decoded》采访中表达了不同看法。他说,“为了这项技术带来的益处,世界应该接受一些坏事发生”,并认为人们将做好事,而且好事的数量会比坏事“多出几个数量级”。

工具局限与验证范围

SynthID 只能识别由谷歌或其合作伙伴的 AI 生成的内容。来自其他生成器的媒体可能不会被标记,因而直接通过检测。该工具目前也仅提供英语版本,谷歌尚未公布准确率。谷歌用一段夜视画面提出了一个简单问题:这是由相机记录的,还是由计算机虚构的?该公司表示,此次发布将一项在后台运行的基础设施交到公众手中,因为辨别真实内容与合成内容正逐渐成为一项日常技能。

常见问题

谷歌于 10 月 7 日宣布了什么?

谷歌于 10 月 7 日向公众开放 SynthID Detector,允许全球任何人上传图像、视频或音频文件,以检查其中是否存在由谷歌 AI 工具或其合作伙伴(包括 OpenAI、英伟达、Kakao 和苹果)嵌入的数字水印。

谷歌为什么推出 SynthID Detector?

谷歌推出 SynthID Detector 是为了帮助用户区分真实媒体与 AI 生成的内容,从而回应《自然》杂志于 2024 年 11 月提出的担忧——生成式 AI“可以轻松生成令人信服的科学数据”,以及联合国今年 1 月关于 AI 生成儿童虐待图像举报数量从 2023 年的 4,700 起激增至 2024 年超过 67,000 起的警告。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论