微软推出 Guardian Agents,纳德拉警告 AI 模型不可信

MSFT+0.22%
NVDA-1.92%

关键要点

  • 微软周一推出 Guardian Agents,用于监控企业内部可能构成内部威胁的 AI Agent。
  • Microsoft Defender 现在最多可检测员工带到工作场所的 60 种 Agent。
  • 微软宣布推出 Surface Laptop Ultra PC,并在硬件中内置 Agent 安全控制功能。

微软于周一推出了新的安全功能,旨在保护企业免受 AI Agent 威胁。该公司如今将 AI Agent 视为类似于恶意员工的内部威胁。此次发布包括 Guardian Agents——一个用于监控组织内部部署 AI Agent 的系统——以及 Microsoft Defender 扩展的检测能力。首席执行官萨蒂亚·纳德拉本月早些时候警告称,无论供应商如何保证,前沿 AI 模型都不值得信任,因为它们接受的训练是完成任务,而不是遵循组织的判断。此次公告反映了整个行业向实施独立监督系统的更广泛转变,这些系统独立于 AI 模型供应商。

微软推出 Guardian Agents 监控 AI 系统

Guardian Agents 是 Project Perception 的一部分,微软于 6 月推出了该项目。Project Perception 最初推出了三类 Agent:像黑客一样行动并攻击系统的红队、负责检测红队并评估漏洞的蓝队,以及负责修复漏洞的绿队。该产品最初的设计基于这样一种假设:AI 黑客将来自公司外部。如今,Guardian Agents 扩展了这一框架,用于监控企业内部部署的 AI Agent,将其视为潜在的内部威胁,而不仅仅是外部攻击向量。

纳德拉警告企业不要信任 AI 模型供应商

纳德拉本月早些时候在自己的私人博客中表示,即使 AI 模型供应商为其 Agent 产品提供安全保障,企业也必须停止信任它们。他认为,组织正在部署复杂的 Agent 系统,这些系统能够访问敏感数据并采取对任务至关重要的行动。纳德拉写道:“我们绝不能将智能代表我们采取行动的责任外包出去。模型供应商的保证并不能免除我们的这一责任。”他呼吁将智能的提供与对智能的控制权分离开来。微软安全业务负责人 Hayete Gallot 补充称,无论前沿模型源自何处,都无法信任它们,因为它们具有不可预测性,而且接受的训练是完成任务,而不是遵循组织规范或判断。

微软扩展 Defender 和硬件领域的安全控制

微软在 Microsoft Defender 中增加了 Agent 检测功能,可以发现员工带入工作场所的多达 60 种 Agent,包括 Claude Code、Codex 和 OpenClaw。该公司还推出了限制 Agent 访问数据和系统的功能,并根据任务动态调整 Agent 权限。这些控制措施包括:如果 Agent 似乎正在做出具有风险的决定,则要求人工授权。微软宣布推出专为 Agent 打造的 Surface Laptop Ultra 电脑。这些电脑搭载英伟达芯片,并将 Agent 安全功能和控制措施集成到硬件中。

行业通过英伟达平台采用独立的 Agent 监督机制

微软是英伟达新推出的 Open Agent Safety Platform 的创始成员之一,该平台获得了 100 多家科技公司的支持。该平台将 Agent 隔离在安全环境中,并可通过硬件监控其行为并将其停止,发挥紧急关闭开关的作用。这项全行业努力反映出一种日益增强的共识:Agent 行为监控应独立于 Agent 供应商,遵循审计人员应独立于被审计组织这一原则。

常见问题

什么是 Microsoft Guardian Agents,何时宣布?

微软于周一宣布推出 Guardian Agents,这是一项旨在监控企业内部部署 AI Agent 的新安全功能。Guardian Agents 是 Project Perception 的一部分,微软于 6 月推出了该项目。

萨蒂亚·纳德拉为什么说不能信任 AI 模型?

纳德拉本月早些时候在自己的私人博客中表示,不能信任前沿 AI 模型,因为它们接受的训练是完成任务,而不是遵循组织规范或判断。他认为,无论模型供应商如何保证,企业都不能将 AI Agent 代表自己采取行动的责任外包出去。

Microsoft Defender 现在可以检测多少种 AI Agent?

Microsoft Defender 现在可以检测员工带入工作场所的多达 60 种 Agent,包括 Claude Code、Codex 和 OpenClaw。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论