Anthropic训练Claude在对话中自我评估滥用行为,该功能自6月起逐步推出

据 Anthropic 称,该公司于 10 月 30 日宣布,已训练 Claude 使用一种名为“自我评估”的技术,识别对话中潜在的滥用行为。Claude 会在完成回复后立即给出初步安全评估。

自 6 月以来,Anthropic 一直使用这种方法检测其他安全机制未能发现的滥用模式。这种方法效率更高,因为 Claude 已经读取了对话上下文;与针对特定危害类型设计的分类器不同,它依靠 Claude 自身的判断,预计准确性会随着模型能力的提升而提高。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论