据 ChainCatcher 和 TechCrunch 报道,Anthropic 于 10 月 8 日更新了其使用政策,新增了禁止干预选举、开发武器相关软件、开展监控,以及对 AI 模型进行言语辱骂的规定。其中最值得注意的变化是,政策明确禁止用户长时间对模型进行言语辱骂。自 8 月以来,Claude 已接受相关训练,能够在用户持续进行有害或辱骂性互动时结束对话,而新政策则将这一禁令正式纳入其中。
该政策仅适用于极端情况,即用户反复残酷对待模型且没有可识别的目的;典型的用户挫败情绪、意见分歧、黑暗创作内容,以及模型测试或研究均不在此范围内。Anthropic 还禁止通过 Claude 开展大规模欺骗活动,例如运营虚假账户或捏造新闻媒体,并在名为“不得破坏民主进程”的新专区中,禁止误导选民或扰乱选举。