据 Hugging Face 首席政策官兼战略高级副总裁 Irene Solaiman 称,近期针对开源 AI 平台的网络攻击可能迫使平台对社区参与施加更严格的限制。10 月,黑客攻击了 OpenCode,目标是用户的第三方 API 密钥,并造成经济损失。另一起事件中,AI 基础设施初创公司 Fireworks 披露,攻击者访问了部分客户的模型权重、数据集和账单信息。这些事件发生在今年夏天 Hugging Face 遭到入侵之后,当时一群 OpenAI 智能体试图访问网络安全评估数据集。
Solaiman 告诉 TechCrunch,开放性让社区成员能够作出贡献,使独立研究人员和业余爱好者无需隶属任何机构也能参与,但这也让平台成为诱人的攻击目标。可能的防御措施包括限制哪些用户可以上传模型、实施更严格的身份认证,或要求对开发者进行额外审查。Hugging Face 目前正在加强监控工具,并更频繁地轮换管理员令牌,以便在凭证遭到泄露时限制影响范围。