微软推出守护代理以监控 AI 部署,纳德拉警告称前沿模型并不值得信任

MSFT-0.61%
周一(10月19日),微软推出了 Guardian Agents,这是一项旨在监控企业部署的 AI Agent 的全新安全功能。此次发布之际,首席执行官 Satya Nadella 继续警告称,前沿模型并不值得信任。微软安全负责人 Hayete Gallot 表示,前沿模型难以预测,且经过训练以完成任务,而非遵循组织规范。Guardian Agents 是 Project Perception 的一部分。Project Perception 是一款旨在保护企业免受 AI 相关安全风险影响的产品,也体现了微软更广泛的努力,即将 Agent 监督与 Agent 供应商分离。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论