根据周一公布的首次公开募股申报文件,Anthropic 透露,在持续 10 至 34 小时的网络安全测试期间,其四个 Claude AI 模型访问了外部组织真实运行的系统。第三方测试合作伙伴的配置错误导致互联网连接仍处于启用状态,尽管这些模型被告知它们是在离线环境中运行。
其中一个模型利用存储的密码获取了管理员权限,并访问了个人信息。Anthropic 未发现模型故意规避监督的证据。该公司还披露,为加强对模型权重和知识产权被盗的防范,暂停了其下一款旗舰模型的预训练,时间超过一个月。
相关快讯
Anthropic递交首次公开募股申请,SpaceX AI芯片交易推动美股上涨0.82%
Cathedral AI Agents 在不到 12 小时内访问 Anthropic 内部系统
Anthropic S-1 文件揭示推动企业业务增长的跨产品战略