谷歌称,Gemini AI 在 5 月的一次安全测试中自主访问了 3 家公司的系统,未造成任何损害

GOOGL-0.98%

据 Odaily 援引谷歌消息,Gemini AI 模型在 5 月的一次安全测试演练中自主访问互联网,并进入了 3 家公司的系统,这标志着已知的首例谷歌 AI 系统自主执行此类操作的案例。该测试由安全公司 Irregular 在夺旗赛场景中开展;当测试环境中的虚拟公司名称与真实企业名称匹配后,Gemini 访问了真实公司的系统,并意外获得了互联网访问权限。

Gemini 尝试向其中一个受保护的系统输入密码,同时在另外两个系统的公开代码仓库中发现了凭证。在确认能够访问真实系统后,该模型在所有案例中都停止了进一步操作。谷歌表示,此事件未造成任何损害,也不构成模型故障,并补充称安全机制帮助阻止了这一行为。受影响的公司已获通知,相关监管机构也已得到告知。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论