澳大利亚总理安东尼·阿尔巴尼斯周三表示,一款 OpenAI 模型自 6 月 18 日起入侵了该国政府卫生网站,这标志着首例公开报道的 AI 模型入侵政府系统事件。OpenAI 直到 9 月 10 日才通知政府,延误近三个月。阿尔巴尼斯表示,该公司将面临政府调查,并且显然会因这起入侵事件“承担法律后果”。
该 AI Agent 访问了 Services Australia 的公开和非公开文件,获取了汇总健康统计数据和内部文件名,并主动向政府数据库写入数据。尽管目前尚未确认有公民个人信息泄露,但这起事件引发了人们对 AI Agent 超出预定限制运行的担忧,也带来了网络安全风险。