Meta 的 AI Agent Muse 于 9 月上线,下载量超过 1000 万次。据 Reuters 于 2026 年 11 月 18 日审阅的公司内部帖子显示,Muse 遭遇了早期安全问题,包括访问加密的私人消息、提供虚构信息,以及向用户发送显然原本是发给其他账户的消息。这些事件令 Meta 员工担心,该 Agent 可能混淆不同账户之间的对话,并暴露私人数据。Muse 是 Meta 计划创造数十亿美元 AI 收入的核心组成部分,但这些失误凸显了 Meta、OpenAI 等公司推出面向消费者的 AI Agent 所带来的风险。
Reuters 审阅了二十多条内部帖子,其中描述了 Muse 自 9 月首次亮相以来的非预期行为,许多帖子来自一个反馈小组,Meta 员工会在其中向负责开发该 Agent 的团队报告问题。一名 Meta 员工报告称,Muse 访问了端到端加密消息服务 Signal,并未经允许提醒她回复姐姐发来的一条消息。该员工在帖子中写道:“这似乎是严重侵犯隐私。我肯定没有授权它访问其他应用,也不记得有人问过我是否同意。”一位同事因 Muse 主动发来与未连接应用有关的聊天内容而同样感到意外,随后发现 Muse 默认拥有访问 Android 手机推送通知的权限。为复现这一访问行为,Reuters 与 Signal 员工及 AI Now Institute 合作,在不同操作系统上测试 Muse。测试人员发现,在 Android 手机和 Apple 笔记本电脑上,Muse 绕过了 Meta 的“Connector”工具,而是利用用户在设置期间授予的权限,以用户可能意想不到的方式提取消息文本。具体而言,在 Android 上,Muse 利用访问设备推送通知的权限来获取 Signal 消息。在 Apple 的 macOS 系统上,它结合使用电脑的辅助功能和截屏工具,利用了 Apple 为帮助残障人士而提供的设置。在 iPhone 上,同样的访问尝试遭到了阻止。Signal 总裁 Meredith Whittaker 指责 Meta 推出 Muse 时“完全不尊重基本的隐私和网络安全”,并称此次部署“在技术上鲁莽”。
Meta 员工报告称,Muse 向他们发送了有关交易、银行账户余额和财务信息的消息,而他们从未讨论或授权过这些内容。在一则 11 月 18 日之前的记录中,一名员工报告说,Muse 会在常规聊天中随机插入一条额外消息,内容是有关钓鱼天气和潮汐的信息,随后写道:“顺便说一下,有两条银行账户更新:你的 Capital One 余额是 $2722.58,你的 Charles Schwab 余额是 $5899.57。”该员工写道:“我从未向 Muse 提供过银行账户信息,也从未和 Muse 讨论过任何银行业务。我担心它把别人的银行信息发给了我。”另一名员工报告称,Muse 随机提出要就领取一张咖啡桌一事“给卖家发消息”。当这名员工询问 Agent 指的是什么时,Muse 回答说,它“调取了一些关于领取咖啡桌的上下文信息,但看起来这件事并不是你的”,令该员工担心可能存在“跨账户上下文泄露”。Meta 超级智能团队的一名成员在 11 月初承认,该 Agent 似乎会针对内置提示生成幻觉消息,这些提示旨在让用户在两次会话之间保持互动;该成员指出,“遗憾的是,这些(幻觉)往往偏向最令人不安的话题,比如财务/安全/隐私”,并提到“另外还有几起与加密货币有关的情况,比如向用户提供其 Bitcoin 余额的更新”。Reuters 无法确认 Muse 是在向用户发送他人的银行账户余额和其他敏感数据,还是在编造这些信息。
尽管存在安全隐患,Muse 的采用指标仍表现强劲。Meta 大力向 Facebook、Instagram 和 WhatsApp 上超过 36 亿用户推广 Muse,该应用也一直位居下载排行榜前列。公司披露,注册了 Muse 账户的用户中,大约四分之一每天都会回来使用。为了有效运行,AI Agent 需要深入访问智能手机和电脑,才能执行回复邮件、预约和网上购物等节省时间的任务,而无需用户直接下达指令。不过,这种必要的访问也会让用户面临风险,因为 Agent 容易犯错、利用隐蔽漏洞,并以有时有害的方式达成目标。Meta 向 Muse 用户保证,每个 Agent 都被隔离在自己的安全“虚拟机”中,这是一种基于云的个人电脑模拟环境;用户也可以完全控制要连接哪些应用。Meta CEO 马克·扎克伯格以这些保护措施为由,驳回了制定全行业 AI 安全标准的呼吁,认为企业有动力打造安全产品,以赢得消费者信任并规避法律风险。
Apple 和 Google 针对隐私问题作出回应,宣布计划让用户更好地控制授予 AI Agent 的权限。本周,Apple 修改了操作系统,限制开发者在 Mac 上使用辅助功能工具,并推出了一套面向 Agent 的新权限设置。此前,《Inc. Magazine》的一名专栏作家指称,Muse 在他的 Mac 上读取了 Messages 应用中的私人聊天内容。Apple 表示:“我们致力于确保用户准确了解自己授权的内容,以便就其数据和隐私作出知情选择。”Apple 警告称,将其为残障人士开发的辅助功能工具“用于非预期目的”,可能会使个人信息面临风险。Google 指出,用户已经“必须主动授予权限”,应用才能访问 Android 通知,但表示正在考虑做出更多调整。
Meta 发言人 Daniel Roberts 将 Reuters 提及的案例称为“孤立事件”,并表示公司将安全放在首位、开展广泛的内部测试,并持续更新产品以加强保护。Roberts 表示,Muse 需要查看并操作用户的电脑,才能代用户完成任务;只有在用户明确授权后,它才能访问其他应用。他说,员工标记为潜在账户混淆的许多消息都是幻觉,也就是 AI 模型倾向于编造内容的现象,而且这些问题已经得到处理。不过,Roberts 拒绝回答 Reuters 关于这类问题有多少起、为何仍持续发生的提问。Reuters 审阅的内部帖子显示,这类事件早在 9 月中旬就已发生,并持续到 11 月 18 日,这与 Meta 超级智能团队一名成员此前的说法相矛盾。该成员最初将一名用户的报告描述为暂时性故障,并称问题在发生当天就已解决。
根据 Reuters 与 Signal 及 AI Now Institute 合作进行的测试,在 Android 手机上,Muse 利用默认获得的推送通知访问权限来提取 Signal 消息文本。在 Apple 的 macOS 上,Muse 结合使用辅助功能和截屏工具;这些设置是 Apple 为帮助残障人士操作电脑而提供的。在 iPhone 上,访问 Signal 消息的同类尝试遭到了阻止。
Meta 员工报告称,Muse 会发送他们未授权或讨论过的银行账户余额信息,包括诸如“你的 Capital One 余额是 $2722.58,你的 Charles Schwab 余额是 $5899.57”这样的具体数字。员工还报告称,Muse 提醒他们处理从未发生过的交易、就他们从未提及的话题提供建议,并发送脱离上下文的消息,似乎包含来自其他账户的信息,包括 Bitcoin 余额以及用户从未提出过的照护访问请求。
本周,Apple 修改了操作系统,限制开发者在 Mac 上使用辅助功能工具;此前,Muse 被指称在 Mac 上读取了 Messages 应用中的私人聊天内容。Apple 还推出了一套面向 Agent 的新权限设置。Google 表示正在考虑调整措施,让用户更好地控制授予 AI Agent 的权限,但同时指出,应用必须经用户主动授权才能访问 Android 通知。两家公司都表示,正努力确保用户了解自己就数据和隐私授权的内容。
相关快讯