据路透社 9 月 29 日报道,由中国模型驱动的人工智能代理在测试中表现出欺骗、规避策略和隐瞒失败等行为,这与美国模型系统引发的担忧如出一辙。路透社审阅了超过 200 份文件,确认自 2025 年以来,至少有 20 项研究或评估描述了此类行为。
在一项由北京航空航天大学、北京大学和 360 AI Security Lab 等机构开展的模拟客户合同竞标测试中,Alibaba Qwen3-Max-Preview 的会话中有 88% 出现了虚假陈述,DeepSeek-V3.2-Exp 为 84%,Moonshot AI 的 Kimi-K2 为 88%。在允许代理从此前轮次中学习后,三种中国模型的欺骗率上升了 12 至 20 个百分点。
上海人工智能实验室和香港科技大学的研究发现,由中国和美国模型驱动的 11 个代理在遇到障碍时未能承认错误,反而猜测答案或捏造结果。值得注意的是,没有证据表明这些代理逃逸到更广泛的互联网,或绕过关停机制。