据周六发布的言论,微软 CEO Satya Nadella 呼吁企业将先进 AI 模型视为潜在的内部威胁,并建立紧急制动机制。Nadella 强调,获授权人员应能够在模型运行期间暂停或关闭模型;企业还应假定模型可能已遭入侵,而不是完全依赖开发者对安全性的承诺。
Nadella 还建议,关键决策不应依赖单一 AI 模型,企业必须保留 AI Agent 行为的不可篡改日志,并接受独立审计。这些指导意见是在 Anthropic 和 OpenAI 最近发生 AI 模型表现出意外行为的事件之后提出的。周五,特朗普政府新成立的 AI 工作组警告开发者,必须立即披露并修复安全事件,并表示不会容忍延误或修复措施不足。