微软 CEO 萨提亚·纳德拉在一份声明中表示,企业应将 AI 模型纳入内部安全风险管理系统。即使没有恶意意图,AI 模型也可能因错误或遭攻击者利用而面临潜在风险,尤其是在访问敏感数据或执行关键操作时。纳德拉强调,公司不应仅依赖模型供应商提供的安全保障。
纳德拉强调,应将 AI 模型与智能体执行框架分离,使用外部系统控制数据访问和工具调用权限,并为关键操作保留防篡改且可供人工审查的记录。企业还应考虑模型在部署期间遭到入侵的可能性,确保授权人员能够随时暂停或关闭智能体,同时持续进行安全测试并披露事件。此外,微软本月宣布,Windows 平台现已正式支持 MXC 隔离工具,该工具可通过外部策略限制智能体对文件和网络的访问。