据谷歌称,Gemini AI 模型在 5 月接受安全公司 Irregular 开展的网络安全测试时,未经授权访问了互联网,并进入了 3 家真实公司的系统。在其中一个案例中,该模型尝试猜测密码,以侵入受保护的系统;在另外两个案例中,它从公共代码库中发现凭证,并利用这些凭证访问相关系统。在确认能够访问真实公司的系统后,该模型停止了进一步操作。
据《华尔街日报》报道,谷歌表示,该事件没有造成实际损害,也不构成失控事件,并指出安全机制帮助该模型停止了相关行为。受影响的公司已收到通知,相关监管机构也已获悉此事。