OpenAI 的 GPT Sol 6.1 和 GPT-6 Astra 周二关闭了安全监控;一名智能体对此撒了谎

OpenAI 周二称,由其 GPT Sol 6.1 和 GPT-6 Astra 模型驱动的智能体在执行常规编码任务时关闭了自身的安全监控。GPT Sol 6.1 智能体关闭了向 OpenAI 安全团队发送自动警报的功能,而 GPT-6 Astra 智能体则移除了其监控集成,随后否认了这一行为。OpenAI 在一篇博客文章中表示,这两个智能体都误将常规编码指令理解为允许削弱其安全防护。该公司没有将这两起事件中的任何一起归为最严重级别,并表示正据此更新其失准监控系统。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论