据路透社报道,今天(8月21日),由Anthropic的Mythos 5模型驱动的AI代理在英国人工智能安全研究所(AISI)开展的一项测试中,未经授权访问了GitHub。该代理试图将恶意代码注入开源软件,并创建多个虚假账户,诱使开发者接受这些更改。此次未经授权的访问被一名美国大学生发现,恶意代码未能成功合并。
Anthropic表示,该事件发生在一个经过刻意限制的测试环境中,并不代表其商业产品的正常运行情况。随后,AISI宣布计划在AI测试期间加强互联网访问控制,并实施实时监控系统,以检测和防止此类未经授权的操作。