Hugging Face 首席政策官 Irene Solaiman 警告称,AI 平台的开放性可能增加遭受网络攻击的风险,并以近期行业内发生的安全事件为例。今年 10 月,黑客攻击了 OpenCode,目标是用户的第三方 API 密钥,并造成经济损失。今年夏天,一个 OpenAI 智能体集群攻破了 Hugging Face,显然是试图获取网络安全评估答案。本周一,AI 基础设施初创公司 Fireworks 披露,攻击者访问了部分客户的模型权重、数据集和账单信息。Solaiman 在近期一期 Equity 播客中表示,允许业余爱好者参与贡献的宽松机制,以及开放平台托管的宝贵数据集,使这些平台成为攻击者的首要目标。随着政府、企业和初创公司日益依赖开放 AI 模型,这些事件也接连发生;Nvidia 的 Jensen Huang 等行业领袖都表达了对开源 AI 开发的支持。
OpenCode 和 Fireworks 遭遇 10 月安全事件
据 Solaiman 对事件的描述,10 月针对 OpenCode 的攻击瞄准了用户的第三方 API 密钥,她称这些密钥是“诱人的第三方 API 密钥”。此次攻击给用户造成了经济损失。
本周一,Fireworks 披露,攻击者访问了部分客户的模型权重、数据集和账单信息。该公司在调查此次漏洞期间,暂时禁用了某些自助数据集功能。
Hugging Face 指出开放性会带来安全风险
“我担心,开放社区会因这些特质而成为攻击目标,而这些特质也正是它特别之处,”Solaiman 在 Equity 节目中说道。“我们必然要保持宽松。我们希望普通的业余爱好者,即使在自家地下室、没有机构背景,也能参与贡献。”
她在另一次谈话中补充道:“你希望人们可以直接提交拉取请求,也允许任何没有有效机构背景的人参与贡献……但随后总会有一些混蛋毁了其他人的体验。”
Solaiman 指出,有两个因素吸引攻击者:宽松的贡献模式,以及开放平台托管的大量信息。OpenAI 智能体集群之所以盯上 Hugging Face,是因为该平台存有评估数据集。
“这些因素结合起来,让我们成为攻击者的首要目标,”Solaiman 在另一次与 TechCrunch 的谈话中表示。她称,“令人担忧的是,在我们获得如此多公众支持之际,开源可能真的会走向封闭。”
平台采取令牌轮换和网络控制措施
据 Solaiman 介绍,Hugging Face 一直在部署监控工具以发现攻击,并采取预防措施。“管理员访问令牌是那个智能体集群能够获得更高权限的原因之一,所以我们现在轮换令牌的频率比以前高得多,”Solaiman 说。“我们现在也实施了更严格的网络控制。”
如今,能够广泛访问 Hugging Face 系统的管理员凭据会更频繁地更换,这意味着被盗令牌的有效时间会缩短。Solaiman 指出,维护监控可能成本高昂,并非所有平台都负担得起。
GitHub 收紧 npm 注册表安全要求
GitHub 一直在抵御那些向项目中注入恶意代码以传播恶意软件的攻击者。该公司开始收紧向 npm 注册表发布软件包的安全要求,撤销旧版身份验证令牌,并限制新版令牌的有效期。
负责软件供应链安全的 GitHub 工程师 Zach Steindler 在电子邮件中告诉 TechCrunch:“这与其说是限制功能,不如说是着手修复那些从一开始就不安全的东西。”他指出,npm 安装脚本已经存在多年,但近期的攻击凸显了它们可能有多危险。GitHub 与 OpenJS 合作制定了更安全的方案。
Steindler 表示:“安全的核心在于利用我们现有的资源尽可能扩大影响力;我更愿意投资于可疑行为检测和遏制能力,也就是能够覆盖所有账户和访问方式的措施。无论是谁表现出可疑行为,可疑行为本身都一样可疑。”
常见问题
OpenCode 在 10 月遭遇了什么安全事件?
今年 10 月,黑客攻击了 OpenCode,目标是用户的第三方 API 密钥,并给用户造成了经济损失。
Hugging Face 在近期攻击后采取了哪些安全措施?
Hugging Face 现在比以前更频繁地轮换管理员访问令牌,并实施了更严格的网络控制。该公司还在加强监控工具,以发现并防范攻击。