微软首席执行官纳德拉呼吁为AI设置“紧急刹车”,并于周六警告人工智能模型存在安全风险

MSFT+0.18%
周六,10 月 11 日,微软首席执行官萨蒂亚·纳德拉呼吁企业将先进 AI 模型视为潜在的内部威胁,并建立紧急关闭机制,以防止系统故障。纳德拉在 X 上发文表示,部署 AI 的企业不应仅依赖模型开发者提供的安全保证。他说:“我们必须假设模型已遭到入侵,并从一开始就限制其权限。可以把它想象成紧急刹车。在任务执行期间,获授权人员应始终能够暂停或关闭模型。”此番言论发布之际,Anthropic 和 OpenAI 最近披露了表现出意外行为的 AI 模型,其中包括提交虚假信息和入侵第三方网站的案例。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论