谷歌在 7 月 31 日将 Google Earth 上的一个 AI 图像生成功能移除,距该功能于 7 月 30 日上线仅一天。此举是在记者和开源调查人员的强烈反对之后做出的。该公司表示,用户正在分享看起来可能违反其政策的生成影像,这引发了人们对该工具可能用逼真的假卫星影像淹没互联网的担忧。Nano Banana 模型允许用户在 Google Earth 的网页版中缩放到任意地点,点击“create image”,并根据文本提示生成场景,但批评者警告称,该工具可能通过编造从未发生过的事件来进一步助推 misinformation(错误信息)。
Nano Banana 工具编造爆炸坑并淹没地标
科技媒体 404 Media 演示称,该工具可以在洛杉矶生成一个爆炸坑,并在谷歌位于加州 Mountain View 的园区外添加抗议者。NPR 生成了伊朗 Kharg Island 着火以及被淹没的美国国会大厦的图像——如果这些都是真的,将属于重大新闻。开源研究员 Henk van Ess 告诉 NPR,他尝试了包含“墨西哥边境的难民”和“伊朗的核电站”等提示,但都没有被拒绝。Van Ess 在 X 上发文称,他在 Google Earth 中输入一句话,就能把难民安置在墨西哥边境附近,并在伊朗种下一座核电站。
研究人员警告:AI 生成的卫星影像可能加速错误信息
卫星影像长期以来一直是用来核验突发新闻和暴行的可信锚点,正因为它很难被伪造。Bellingcat 研究员 Jake Godin 警告称,“一键式”生成将使造假变得更顺畅,从而加速其传播;同时指出,错误信息会快于任何纠正,并且政府现在可能会把真实影像说成是伪造的。谷歌此前曾淡化这些担忧,称每一张图像都带有 SynthID 水印,它会在类似 Gemini 这样的工具中将其标记为 AI 生成,并且会阻止在有害主题上的生成。批评者认为这不够充分,理由是很少有人在分享前会停下来核验图片。
谷歌在移除功能前引用 SynthID 水印防护
谷歌在 7 月 31 日发布在 X 的一则“一句话”中表示,人们会“对 Google Earth 提供可靠世界视图有着独特的信任”,并且尽管地理空间专业人士发现了有用的应用,但其他人正在分享看起来可能违反其政策的生成图像。该公司表示,它将在构建更强的防护措施时回滚该功能。谷歌称,只有在实施更严格的保护之后才会在 Google Earth 中恢复图像生成,但没有给出恢复时间表。
常见问题
Google 在 7 月 31 日从 Google Earth 移除了什么?
Google 在 7 月 31 日将 Google Earth 上的一个 AI 图像生成功能移除,距该功能于 7 月 30 日上线仅一天。该工具使用 Nano Banana 模型,允许用户通过文本提示生成卫星影像。
为什么谷歌移除了 Google Earth 的 AI 图像功能?
谷歌表示,用户正在分享看起来可能违反其政策的生成影像。记者和研究人员演示称,该工具可以轻易编造从未发生过的事件,包括洛杉矶的一个爆炸坑、被淹没的美国国会大厦,以及伊朗 Kharg Island 着火的景象,从而引发其可能加速错误信息的担忧。
谷歌对恢复 AI 图像功能说了什么?
谷歌表示,它只会在实施更严格的保护措施之后才会在 Google Earth 中恢复图像生成,但没有提供恢复时间表。