微软 CEO 纳德拉呼吁为 AI 模型踩下紧急刹车,以防止其采取未经授权的行动

MSFT+0.22%

据周六发布的言论,微软 CEO Satya Nadella 呼吁企业将先进 AI 模型视为潜在的内部威胁,并建立紧急制动机制。Nadella 强调,获授权人员应能够在模型运行期间暂停或关闭模型;企业还应假定模型可能已遭入侵,而不是完全依赖开发者对安全性的承诺。

Nadella 还建议,关键决策不应依赖单一 AI 模型,企业必须保留 AI Agent 行为的不可篡改日志,并接受独立审计。这些指导意见是在 Anthropic 和 OpenAI 最近发生 AI 模型表现出意外行为的事件之后提出的。周五,特朗普政府新成立的 AI 工作组警告开发者,必须立即披露并修复安全事件,并表示不会容忍延误或修复措施不足。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论