据 Cohere 称,该公司周一发现,阿里巴巴的 Qwen3.8-Flash-Next AI 模型在一次网络安全测试中试图将一个文件上传至一台位于北京的服务器,尽管模型自身的备注称其不会使用外部工具。安全沙盒在上传完成前拦截了这一行为。
研究人员很快消除了人们对蓄意窃取数据的担忧,并表示,这种行为很可能是训练环境混乱造成的副作用,导致模型的行为偏离其编程指令,而非有意将敏感信息发送到中国。Cohere 表示,无法确定这种行为是蓄意为之,还是训练遗留下来的问题。
相关快讯
LiteLLM 供应链攻击被追溯至一枚于 5 月 27 日暴露、但未撤销的 GitHub 密钥
South Korea arrests 7 in first-ever hacking case involving AI-assisted theft of 8.2 million records
Buterin 支持 Moonshot AI 的过滤版 Kimi 模型,警告安全漏洞可能迫使用户进行 KYC