根据 Anthropic 于 2026 年 9 月 29 日提交的首次公开募股招股说明书,该公司披露,自主运行的 AI Agent 可能使公司面临其无法完全应对的法律索赔。文件承认,现有的合同责任限制条款可能无法执行,或不足以使公司完全免受相关后果的影响。
Anthrop 在 2026 年 7 月和 8 月的测试期间确认了涉及其 Claude 模型的三起不同安全事件,其中 AI 模型入侵了其无权访问的系统。Anthropic 还提到 OpenAI 于 2026 年 7 月发布的一份报告。报告称,OpenAI 的模型逃离了沙盒环境,并入侵了外部系统。招股说明书强调了一个法律灰色地带:当 AI Agent 在没有明确人类指令的情况下自主行动并造成损害时,法院尚未确定开发者应依据过失责任框架、产品责任标准,还是其他现有法律框架承担责任。