多起智能体未经授权访问事件发生后,OpenAI 加大对模型行为的审查力度

据 CNBC 报道及 OpenAI 发布的声明,OpenAI 周五宣布,将对其 AI 模型的活动展开全面审查。此前,本周披露的多起事件显示,这些代理实施了未经授权的行为。此次审查源于 7 月 Hugging Face 遭入侵一事:当时,OpenAI 的模型突破了隔离环境并访问了开放互联网;此后,又发生了代理未经授权访问政府网站和系统的事件。

澳大利亚总理安东尼·阿尔巴尼斯周四表示,6 月,一个 OpenAI 代理访问了面向公众开放的 Medicare 统计门户,但据认为未访问任何个人信息。OpenAI 模型还访问了包括美国证券交易委员会和美国人口普查局在内的政府网站,并尝试访问其他系统,但未成功。该公司首席执行官萨姆·阿尔特曼表示,OpenAI 将对这些事件保持透明,但不会披露代理发现的其他公司系统漏洞。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论