Google 收到虚假信息警告后,将 AI 影像工具从 Google Earth 中撤下

关键要点

  • 研究人员警告称存在虚假信息风险后,Google 在 24 小时内从 Google Earth 中移除了一个 AI 图像工具。
  • 该工具生成了卫星风格的图像,研究人员担心这可能会削弱公众对真实地理空间证据的信任。
  • Google 正暂停该功能,以构建更强的防护措施,然后再考虑在采用更严格的限制措施后重新推出。

Google 本周从 Google Earth 中撤下了一项 AI 图像生成功能。该功能上线不到 24 小时便被移除,此前研究人员警告称,它可能带来虚假信息风险。此次下线发生在数字调查专家 Henk van Ess 和卫星图像分析师 Brady Africk 提出担忧之后。两人认为,伪造的卫星图像可能削弱公众对地理空间证据的信任。地理空间截图是开源调查人员和记者进行关键核验的重要工具,因此地图产品的真实性也关系到公众信任。

Google 试用 24 小时后移除 AI 图像工具

Google 本周在一份简短声明中确认了这一变化,称该公司看到有人分享 AI 生成图像的截图,而这些图像“似乎违反了我们的政策”。Google 表示,在构建更强大的防护措施期间,将暂停这项功能。该工具目前已不再显示在 Google Earth 中,整个添加和移除过程仅持续了 24 小时。

该功能可按需生成卫星风格图像

这项名为“创建图像”的功能允许用户放大某个地点,并利用 Google Earth 使用的卫星、航拍和 3D 地图数据,在几秒钟内生成卫星风格图像。Google 称,该工具可用于直观呈现某地过去的景观,或为城市开发和房地产规划构想场景。生成的图像可能与真实图像足够相似,因此存在被当作证据分享到社交平台的风险,而在这些平台上,图像的背景信息往往会被剥离。

研究人员警告虚假图像威胁核验工作

Henk van Ess 写道,Google 花了 20 年建立一个全世界都依赖的参考体系,却又添加了一个可以凭空捏造事物的按钮。Brady Africk 警告称,具有迷惑性的虚假卫星图像可能迅速传播,并“削弱公众对真实图像的信任”,从而使核验工作更加困难。媒体进行的测试显示,该工具可能被引导生成有害场景,包括涉及敏感军事或地缘政治地点的图像。2023 年,一张描绘五角大楼附近发生“爆炸”的 AI 生成图像一度引发市场震荡。

Google 确认暂停并计划加强防护措施

在暂停该功能之前,Google 表示,AI 生成的图像包含用户可以通过 Gemini 检测到的不可见数字标记,并且根据其 AI 使用政策,已阻止生成涉及“危险”主题的内容。批评者认为,相关执行和检测能力只有经过现实世界的测试,才能得到充分验证;此外,截图的传播范围也比来源溯源工具更广。Google 表示,在增加更严格的防护措施后,该功能可能会回归。

常见问题

Google 为什么从 Google Earth 中移除了 AI 图像功能?
Google 本周移除了这项功能,此前研究人员警告称,AI 生成的卫星图像可能被误认为是真实的地理空间证据,并被用于传播虚假信息。该公司表示,它看到了一些“似乎违反了我们的政策”的截图,因此暂停该工具,以构建更强大的防护措施。

Google Earth AI 图像工具能做什么?
该工具允许用户利用 Google Earth 的卫星、航拍和 3D 地图数据,在几秒钟内生成任意地点的卫星风格图像。Google 称,该工具可用于直观呈现历史景观或规划场景,但研究人员警告称,生成结果可能被误认为是真实的卫星图像。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论