麻省理工学院与哈佛大学于7月7日推出 Role Anchor,旨在解决AI系统中的角色漂移问题。

根据 2026 年 7 月 7 日发表的一篇论文,MIT 和哈佛大学的研究人员介绍了 Role Anchor,这是一种旨在防止复合式 AI 系统出现“角色漂移”的技术。该研究由 MIT 的 Xiaoyang Cao 和哈佛大学的 Siddarth Srinivasan 领导,发现复合系统中的各个组件经常偏离其分配的任务——例如,检索模块依赖参数化记忆,而不是检索到的文档。

在实验中,强制执行严格的角色忠实度消除了强化学习带来的 86% 的准确率提升,这表明报告中的相当一部分进展可能反映的是角色漂移,而非真正的能力提升。Role Anchor 在训练期间作为一种正则化技术运行,以维持特定角色的行为,并迫使各模块执行其指定功能。研究人员指出,传统的准确率基准无法检测角色漂移,凸显了在 AI 系统评估中采用角色忠实度指标的必要性。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论