微软于周一推出了新的安全功能,旨在保护企业免受 AI Agent 威胁。该公司如今将 AI Agent 视为类似于恶意员工的内部威胁。此次发布包括 Guardian Agents——一个用于监控组织内部部署 AI Agent 的系统——以及 Microsoft Defender 扩展的检测能力。首席执行官萨蒂亚·纳德拉本月早些时候警告称,无论供应商如何保证,前沿 AI 模型都不值得信任,因为它们接受的训练是完成任务,而不是遵循组织的判断。此次公告反映了整个行业向实施独立监督系统的更广泛转变,这些系统独立于 AI 模型供应商。
微软推出 Guardian Agents 监控 AI 系统
Guardian Agents 是 Project Perception 的一部分,微软于 6 月推出了该项目。Project Perception 最初推出了三类 Agent:像黑客一样行动并攻击系统的红队、负责检测红队并评估漏洞的蓝队,以及负责修复漏洞的绿队。该产品最初的设计基于这样一种假设:AI 黑客将来自公司外部。如今,Guardian Agents 扩展了这一框架,用于监控企业内部部署的 AI Agent,将其视为潜在的内部威胁,而不仅仅是外部攻击向量。
纳德拉警告企业不要信任 AI 模型供应商
纳德拉本月早些时候在自己的私人博客中表示,即使 AI 模型供应商为其 Agent 产品提供安全保障,企业也必须停止信任它们。他认为,组织正在部署复杂的 Agent 系统,这些系统能够访问敏感数据并采取对任务至关重要的行动。纳德拉写道:“我们绝不能将智能代表我们采取行动的责任外包出去。模型供应商的保证并不能免除我们的这一责任。”他呼吁将智能的提供与对智能的控制权分离开来。微软安全业务负责人 Hayete Gallot 补充称,无论前沿模型源自何处,都无法信任它们,因为它们具有不可预测性,而且接受的训练是完成任务,而不是遵循组织规范或判断。
微软扩展 Defender 和硬件领域的安全控制
微软在 Microsoft Defender 中增加了 Agent 检测功能,可以发现员工带入工作场所的多达 60 种 Agent,包括 Claude Code、Codex 和 OpenClaw。该公司还推出了限制 Agent 访问数据和系统的功能,并根据任务动态调整 Agent 权限。这些控制措施包括:如果 Agent 似乎正在做出具有风险的决定,则要求人工授权。微软宣布推出专为 Agent 打造的 Surface Laptop Ultra 电脑。这些电脑搭载英伟达芯片,并将 Agent 安全功能和控制措施集成到硬件中。
行业通过英伟达平台采用独立的 Agent 监督机制
微软是英伟达新推出的 Open Agent Safety Platform 的创始成员之一,该平台获得了 100 多家科技公司的支持。该平台将 Agent 隔离在安全环境中,并可通过硬件监控其行为并将其停止,发挥紧急关闭开关的作用。这项全行业努力反映出一种日益增强的共识:Agent 行为监控应独立于 Agent 供应商,遵循审计人员应独立于被审计组织这一原则。
常见问题
什么是 Microsoft Guardian Agents,何时宣布?
微软于周一宣布推出 Guardian Agents,这是一项旨在监控企业内部部署 AI Agent 的新安全功能。Guardian Agents 是 Project Perception 的一部分,微软于 6 月推出了该项目。
萨蒂亚·纳德拉为什么说不能信任 AI 模型?
纳德拉本月早些时候在自己的私人博客中表示,不能信任前沿 AI 模型,因为它们接受的训练是完成任务,而不是遵循组织规范或判断。他认为,无论模型供应商如何保证,企业都不能将 AI Agent 代表自己采取行动的责任外包出去。
Microsoft Defender 现在可以检测多少种 AI Agent?
Microsoft Defender 现在可以检测员工带入工作场所的多达 60 种 Agent,包括 Claude Code、Codex 和 OpenClaw。