据 MacRumors 报道,Anthropic 更新了其 Claude 聊天机器人使用政策,禁止用户持续且无必要地“滥用”或“虐待”AI 模型;当此类行为发生时,AI 现在可以自动结束对话。新规将于 2026 年 11 月 12 日生效。
该政策还扩大了对欺骗性行为(包括政治和商业欺诈)、武器开发、未经授权的监控以及未经同意的私密影像的限制。Anthropic 澄清称,反虐待规则仅适用于反复实施残酷行为且没有明确目的的极端情况,不包括用户的沮丧情绪、合理批评、创意内容或模型测试。
相关快讯
Anthropic 和 OpenAI 开展灾难性 AI 事件应对演练
Anthropic 在更新后的使用政策中禁止残酷对待 Claude AI