据 ChainCatcher 报道,谷歌 DeepMind 研究人员 Zhengxuan Wu、Yuxuan Li、Oyvind Tafjord 和 Been Kim 发布了一篇预印本论文,介绍了 XYEval,这是一种旨在评估 AI Agent 如何回应用户误导性建议的评估框架。该框架将“XY 问题”的概念扩展到 AI 场景:用户询问的是自己尝试的解决方案 X,而非实际问题 Y。在六个基准测试和五个模型上的测试显示,当 AI Agent 遇到被包装成自信建议的误导性提议时,其性能会显著下降。与基线任务相比,性能降幅最高达 46.7%;当用户要求先提供详细解释、再接受更好的解决方案时,性能下降更明显。代码已发布在 GitHub 上,地址为 google-deepmind/xyeval。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见
声明。