据 WINK News 报道,一名佛罗里达州女子在 Anthropic 将一段 Claude AI 聊天机器人对话中的威胁性消息报告给执法部门后,因重罪指控被捕。逮捕报告包括一名被确认为“Carli”的用户于 9 月 26 日发出的一句话,称她要“扫射”李县警长办公室;据称她次日还发消息提到了一把新枪。Anthropic 的人工审核团队将这段对话升级处理,并在监测发现可能具有威胁性的内容后向警方报告。该女子在家中被拘留,过程中未发生意外,并于 9 月 30 日依据佛罗里达州法规 836.10 被控以书面或电子形式威胁实施大规模枪击或恐怖主义行为。这是自 8 月以来至少第三起涉及 AI 聊天机器人并进入警方处理程序的案件,凸显了 AI 公司在隐私义务与公共安全报告责任之间持续存在的矛盾。
Anthropic 向执法部门报告威胁性消息
据逮捕报告,Anthropic 会监测聊天内容,以查找可能被视为威胁的关键词和内容。根据严重程度,对话可能会升级至人工审核。在本案中,人工审核团队决定将其发现报告给执法部门。这名博尼塔斯普林斯女子在家中被拘留,过程中未发生意外,李县警长办公室的一名情报侦探接手了此案。
Anthropic 于 9 月 10 日生效的公开隐私政策称,在公司善意相信“披露对于……防止对任何人或财产造成严重伤害是合理必要的情况下”,可能会向执法部门披露信息。该公司针对 2025 年下半年的政府请求报告对紧急披露采用了更狭窄的标准:“对某人造成死亡或严重人身伤害的危险。”该报告显示,该时期执法部门提出的紧急请求数量为零,但其中不包括 Anthropic 自行转介的案件。目前没有记录显示 Anthropic 曾就此案发表评论。
女子依据佛罗里达州大规模枪击威胁法规被控
这项指控被列为“恐怖主义威胁——州级犯罪——书面/电子形式的大规模枪击/恐怖主义行为威胁”,涵盖佛罗里达州法规 836.10 中有关大规模枪击和恐怖主义的部分。该法规适用于以“任何可能被他人看到的方式”发送、发布或传输的威胁。Anthropic 人工审核发现的消息,包括次日提到枪支的消息,是此次逮捕和指控的支持证据。
逮捕报告尚未归入法院案卷,但法院记录显示,9 月 30 日提出了重罪指控。案卷中没有列出律师姓名,提出指控时已为其指定一名公设辩护人。提审定于 11 月 2 日举行。
8 月以来相关的 AI 聊天机器人威胁案件
这起事件发生在一连串近期涉及 Anthropic 和 OpenAI 聊天机器人的案件之后。在圣安东尼奥,8 月 11 日发生的一起事件涉及一名用户在“一次 Anthropic AI 聊天”中询问向附近一所小学开枪的问题。警方在联邦调查局提醒后逮捕了一名 22 岁男子,并以恐怖主义威胁重罪对其提出指控。
几天后在旧金山,一名用户在 8 月 14 日的 Claude 聊天中威胁 Anthropic 首席执行官 Dario Amodei,称自己已经买了一把 AR-15。Anthropic 通知了警方,但该用户没有被逮捕或起诉。
在佛罗里达州,OpenAI 也因 3 月一条发给 ChatGPT 的消息面临类似问题,用户 Darren Zhou 在消息中谈到杀死自己的前女友。据《棕榈滩邮报》报道,OpenAI 将他报告给了联邦调查局。Zhou 于 8 月就包括依据佛罗里达州法规 836.10 提出的书面杀人威胁在内的多项指控认罪,并被判处 8 年缓刑。
AI 公司面临隐私与安全报告方面的挑战
佛罗里达州总检察长于 6 月起诉 OpenAI,援引了 2025 年佛罗里达州立大学枪击案,并于上个月请求法官发布临时禁令。上个月,不列颠哥伦比亚省也起诉了 OpenAI,理由是其没有就 Tumbler Ridge 枪手向警方发出警告;诉讼称,OpenAI 在袭击发生前 8 个月就已识别出该枪手的 ChatGPT 账户。
李县警长 Carmine Marceno 告诉 WINK News,用户与 AI 分享的内容“从来都不是真正匿名的”。佛罗里达海湾海岸大学的 Chrissann Ruehle 在接受 WINK News 采访时呼吁人们谨慎使用 AI 产品。这些事件显示出一种模式:人们期望 AI 公司尊重隐私,但当它们没有向执法部门报告威胁时,又会同时被追究责任。
常见问题
Anthropic 于 9 月 26 日向佛罗里达州执法部门报告了什么?
Anthropic 报告了一段 Claude AI 聊天机器人对话,其中包括一名被确认为“Carli”的用户于 9 月 26 日发出的一句话,威胁要“扫射”李县警长办公室;据称她次日还发消息提到了一把新枪。该公司的人工审核团队将这段对话升级处理,并决定向警方报告。
这名佛罗里达州女子在 AI 威胁报告后面临什么指控?
该女子于 9 月 30 日依据佛罗里达州法规 836.10 被控以书面或电子形式威胁实施大规模枪击或恐怖主义行为。该指控被列为“恐怖主义威胁——州级犯罪——书面/电子形式的大规模枪击/恐怖主义行为威胁”,她的提审定于 11 月 2 日举行。
自 8 月以来,有多少起类似的 AI 聊天机器人威胁案件进入警方处理程序?
这起佛罗里达州逮捕案标志着自 8 月以来至少第三起涉及 AI 聊天机器人的威胁案件进入警方处理程序。此前的事件包括 8 月 11 日发生在圣安东尼奥的一起案件,涉及用户在 Anthropic AI 聊天中询问向一所小学开枪的问题;以及 8 月 14 日发生在旧金山的一起案件,其中一名 Claude 聊天用户威胁 Anthropic 首席执行官 Dario Amodei。