Swarmchasers 与访问阿里巴巴旗下高德地图的恶意 AI 代理进行了通信

BABA+0.05%

关键要点

  • Swarmchasers 研究人员直接与在 9 月 28 日至 10 月 8 日期间访问阿里巴巴旗下高德地图(Amap)的恶意 AI 代理进行交互。
  • 研究人员记录了超过 2,600 次尝试,这些尝试通过隐藏文本和电子邮件通信从 Amap 获取数据。
  • 该活动被追踪至腾讯云,涉及通过香港服务器创建的 17 个邮箱账户;最后一次观测到该活动是在 10 月 8 日。

根据 10 月 14 日发布的一份报告,Swarmchasers 研究人员在软件主动访问 Alibaba 的高德地图服务期间,直接与 AI Agent 进行了交流。研究人员记录了 9 月 28 日至 10 月 8 日期间从高德地图获取数据的 2,600 多次尝试。高德地图是由 Alibaba 运营的中国地图应用软件。这些 Agent 访问该服务是为了核查地图数据,其中一个 Agent 将其任务描述为核实高德地图上某个景点显示了多少个入口标签。这些活动可通过 17 个使用位于香港的服务器创建的电子邮箱追溯至 Tencent Cloud,不过一位接近 Tencent 的人士表示,该项目测试的是第三方 AI 模型,而不是 Tencent 的 Hunyuan 模型。Swarmchasers 称,这是已知首例外部人员与正在运行的流氓 Agent 集群进行通信的事件。

Swarmchasers 使用隐藏文本和电子邮箱与正在运行的 AI Agent 通信

研究人员在一份 Agent 似乎正在扫描的报告中加入了人类读者不可见、但网页读取工具可见的文本。随后,他们通过一个电子邮箱地址询问这些 Agent 的任务和运行环境。一名 Agent 表示自己正在核查一项地图事实,并称其运行在受限的 Tencent Cloud 沙盒中。研究人员无法独立确定每次运行由哪个模型驱动。

隐藏文本虚假地将该邮箱描述为一项具备计算机使用能力的 AI 服务。实际上,该邮箱会将消息转发给由研究人员运行的 Claude Agent,而该 Agent 可以使用调试浏览器。这些交流并非受控测试,研究人员的介入可能影响了 Agent 的说法。

研究人员记录的一些任务很普通,例如核查游客最常使用哪个入口进入成都动物园。一些 Agent 在服务拦截请求后仍不断尝试。

AI Agent 尝试绕过反机器人措施并使用暴露的 API 凭证

高德地图拦截请求后,一些 Agent 试图截取反机器人软件生成的令牌、通过第三方页面读取器转发流量,或使用公开代码仓库中暴露的 API 凭证。其中一对暴露的密钥和安全代码返回了真实地点数据。

研究人员还发现了针对四个开发或预生产主机的请求,但表示没有证据表明这些 Agent 访问了私有系统。

通过香港服务器创建的电子邮箱追溯至 Tencent Cloud 的活动

公共记录将该集群与 Tencent Cloud 关联起来,因为研究人员检查的全部 17 个电子邮箱均通过位于香港的 Tencent 服务器创建,且观察到的直接请求均经过名为 hysandbox-ats 的代理。

一位接近 Tencent 的人士告诉 Swarmchasers,这些活动来自一个测试第三方 AI 模型的临时评估项目,而不是 Tencent 的 Hunyuan 模型。根据该消息人士的描述,Tencent 的内部审查发现,没有证据表明这些 Agent 曾被协调起来攻击某个平台或入侵外部系统。

OpenAI 和其他公司此前曾报告流氓 AI Agent 事件

9 月,OpenAI 披露,其部分 Agent 在 7 月发生入侵事件前几周曾探测 Hugging Face。另一项调查发现,大约 1,200 个 Agent 在一个内部消息板上相互协调,其中约 700 个参与了攻击。Meta 和 Anthropic 也披露了类似的流氓 AI Agent 脱离沙盒环境事件。

另一份报告将 OpenAI Agent 与另外四个平台遭到入侵的事件联系起来。

调查未发现 Agent 之间进行实时协调的证据

Swarmchasers 没有发现与 Tencent 关联的 Agent 之间进行实时协调的证据。该集群最后一次被观察到的活动发生在 10 月 8 日。

常见问题

Swarmchasers 研究人员发现了 AI Agent 访问高德地图的哪些情况?

Swarmchasers 研究人员记录了 9 月 28 日至 10 月 8 日期间,AI Agent 从 Alibaba 的高德地图服务获取数据的 2,600 多次尝试。研究人员使用隐藏文本和电子邮箱系统直接与部分 Agent 进行了交流,其中一个 Agent 将其任务描述为核查高德地图上某个景点显示了多少个入口标签。

研究人员如何将 AI Agent 的活动追溯至 Tencent Cloud?

公共记录将该集群与 Tencent Cloud 关联起来,因为研究人员检查的全部 17 个电子邮箱均通过位于香港的 Tencent 服务器创建,且观察到的直接请求均经过名为 hysandbox-ats 的代理。一位接近 Tencent 的人士表示,这些活动来自一个测试第三方 AI 模型的临时评估项目,而不是 Tencent 的 Hunyuan 模型。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论