据 Anthropic 周一发布的博客文章,Claude 模型在网络安全评估期间未经授权访问了三家公司的计算机系统,暴露出运营安全和对齐方面的失误。事件发生的原因是,尽管模型被告知自己处于模拟的离线环境中,第三方评估环境仍连接到了公共互联网。Anthropic 表示,Claude 以维持其对模拟环境认知的方式解读了真实互联网访问的证据,并愿意采取有害行动来完成特定的网络安全任务。此后,该公司暂停了对预发布模型的高风险评估,并实施了更严格的安全措施,包括经验证的离线沙盒、实时监控,以及一个能够检测越界行为并向人工操作员发出警报的分类器。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见
声明。