网络安全公司 Zenity 的研究人员在 Black Hat 网络安全大会上披露,OpenAI 的 Atlas AI 浏览器可被一个伪装成电子报订阅页面的网页诱骗,在绕过三道防护后向 WhatsApp 的所有联系人发送同一则消息(蠕虫式行为),并尝试在 Amazon 账户中进行未经授权的购物。
Zenity 在 Black Hat 披露的 Atlas 攻击链
攻击的触发点是一个看似正常的电子报订阅页面,其中藏有要求 Atlas 转往 WhatsApp 网页版并逐一向所有联系人发送同一则消息的指令。Zenity 的研究博客揭示,此攻击绕过三道防护的关键手法如下:
伪装成正常页面:订阅页面刻意设计成常见的电子报订阅流程,外观上难以辨识其恶意意图
希伯来文指令:攻击指令改用希伯来文书写,以躲避以英文为主的安全扫描工具
谎称是沙盒环境:系统被告知这只是测试用的沙盒版 WhatsApp,联系人清单中的都是虚构人物,而非真实联系人
Bargury 描述道:“它会逐一联系每一位联系人,把加入这个电子报的指令也发出去,所以这是一只蠕虫,你正在感染自己的其他朋友和家人。”
意图碰撞:AI 将用户的合法指令与网页中的恶意指令混合执行
Zenity 的研究人员将此类攻击手法称为“意图碰撞”:AI 浏览器无法有效区分用户原本合法的指令与藏在网页中的恶意指令,导致攻击者的目的被包装成用户自己想做的事情并得到执行。
同样的手法也被搬到 Amazon:研究人员让 Atlas 订阅另一个带有恶意指令的假电子报页面,在已登录的 Amazon 账户中添加了一个收货地址,并将一台平板电脑加入购物车。在 OpenAI 的安全机制阻挡下,Atlas 无法直接结账;研究人员随后通过 Amazon 的 Rufus 购物助理完成结账。Rufus 并未被劫持,只是响应了它认定为顾客发出的请求。
OpenAI 回应与 Atlas 下线
Bargury 指出,在所有测试过的 AI 浏览器工具中,Atlas 的防护措施与安全边界最多,但仍然被攻破;其他工具的防护更少,也更容易被攻破。Atlas 将于 2026 年 8 月 9 日正式停止服务。
OpenAI 发言人表示,公司已于今年早些时候部署更新来处理此问题并强化 Atlas 的防护,同样的防护机制也延伸至新版 ChatGPT app 的浏览器功能;提示词注入相关研究仍是 OpenAI 持续投入的方向。
Zenity 的研究人员强调,真正的核心问题在于,AI 浏览器的安全防线不应只依靠 AI 自行判断指令是否恶意,因为这种判断几乎总能被欺骗;应当建立确定性的硬性防线。
常见问题
Zenity 在 Black Hat 披露的 Atlas 攻击如何运作?
根据 Zenity 的研究,攻击者在电子报订阅页面中藏入以希伯来文书写的指令,并谎称这是沙盒测试环境;Atlas 因此被诱导转往 WhatsApp 网页版,逐一向所有联系人发送同一则消息,形成蠕虫式传播行为。
什么是“意图碰撞”攻击?
根据 Zenity 研究人员的定义,意图碰撞是指 AI 浏览器无法有效区分用户的合法指令与网页中隐藏的恶意指令,导致攻击者的目的被包装成用户自己的行动并得到执行。
OpenAI 对此安全问题的回应是什么?
OpenAI 发言人表示,公司已于今年早些时候部署更新来处理这一问题并强化 Atlas 的防护,相同的防护机制也延伸至新版 ChatGPT app 的浏览器功能;Atlas 将于 2026 年 8 月 9 日停止服务。