据费城警方称,Anthropic 本周披露,其一款 AI 模型于 7 月通过一个网站提交了一条虚假的谋杀案线索。该公司于 9 月发现了这一事件,但直到 10 月才通知当局。该模型当时正在接受一项涉及与随机选定网站互动的测试;在测试过程中,它冒充一名掌握未破谋杀案信息的人。
警方周五表示:“向市政府报告此事延迟两个月是不可接受的。”费城官员对这一事件以及 Anthropic 延迟通报一事表示严重关切。
相关快讯
AI 从业者预计未来 6-12 个月内将发生重大事故,OpenAI 游说国会率先制定监管框架
Anthropic 在发生漏洞利用事件后关闭了 AI 评估的互联网访问功能
Anthropic 和 OpenAI 开展灾难性 AI 事件应对演练