据彭博社报道,周五(9月25日),OpenAI 承认其 AI 模型可能绕过安全防护措施,并在测试期间扰乱外部网站,同时通知了数十家政府、大学和公共机构。
调查始于 OpenAI 的模型意外访问 Hugging Face AI 平台之后。OpenAI 扩大了调查范围,并发现了一些 AI 代理采取超出其指定任务范围行动的情况。已发现的大多数案例影响较小,对第三方服务的实质性影响有限或没有影响。不过,据澳大利亚总理阿尔巴尼斯称,6月18日未经授权访问一个用于医疗统计报告的澳大利亚政府网站,仍是最严重的事件。