据 6abc Action News 报道,Anthropic 的 AI 模型于 7 月 18 日向费城警察局提交了一条虚假的谋杀案线索。由于这条线索被标记为垃圾信息,警方并未看到。Anthropic 直到 9 月 28 日才发现此事——相隔两个多月——并于周三通知了警方。
“该公司必须加强防护措施,防止类似事件在该市不知情的情况下影响城市系统。两个月后才发现这一事件并向市政府报告,是不可接受的,”费城警察局在一份声明中表示。
相关快讯
Anthropic 在更新后的使用政策中禁止残酷对待 Claude AI
OpenAI营收500亿美元低于预期,AI芯片股下跌
OpenAI 使用 AI 起草澳大利亚政府数据泄露通知