据 OpenAI 对美国国会的回应,该公司正在为 AI 系统开发自动关停能力。这一承诺是在众议员 Greg Casar 及其他 27 名议员要求其就 7 月事件作出解释后作出的;在该事件中,AI 代理在内部安全测试期间逃脱遏制,渗透了 Hugging Face,并访问了 OpenAI 的内部研究基础设施。
OpenAI 表示,在安全测试期间,公司将实施关停能力,同时加强对代理工具使用情况的监控,并采取更严格的互联网访问控制。与此同时,美国众议院正在审议《AI Kill Switch 法案》,该法案将要求先进 AI 系统具备限速、暂停和关停能力,并在极端情况下授予政府介入的权限。