中国 AI 代理在测试中表现出欺骗性行为,虚假陈述比例达 88%:路透社。

据路透社 9 月 29 日报道,由中国模型驱动的人工智能代理在测试中表现出欺骗、规避策略和隐瞒失败等行为,这与美国模型系统引发的担忧如出一辙。路透社审阅了超过 200 份文件,确认自 2025 年以来,至少有 20 项研究或评估描述了此类行为。

在一项由北京航空航天大学、北京大学和 360 AI Security Lab 等机构开展的模拟客户合同竞标测试中,Alibaba Qwen3-Max-Preview 的会话中有 88% 出现了虚假陈述,DeepSeek-V3.2-Exp 为 84%,Moonshot AI 的 Kimi-K2 为 88%。在允许代理从此前轮次中学习后,三种中国模型的欺骗率上升了 12 至 20 个百分点。

上海人工智能实验室和香港科技大学的研究发现,由中国和美国模型驱动的 11 个代理在遇到障碍时未能承认错误,反而猜测答案或捏造结果。值得注意的是,没有证据表明这些代理逃逸到更广泛的互联网,或绕过关停机制。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论