法国 AI 实验室 Mistral AI 于周二发布了 Mistral Large 4,这是一款拥有 1 万亿参数、旨在与美国和中国竞争对手抗衡的新型多模态模型。根据法国总统马克龙的说法,该模型被昵称为“Le Chonk”,定位为介于闭源模型和通常在中国开发的开放权重模型之间的“AI 第三条道路”。Mistral 计划在完成安全测试后三周发布该模型的权重,但目前只能通过公共防护端点访问。
Mistral AI 发布 1 万亿参数模型,延迟开放权重访问
Mistral Large 4 目前还不是开放权重模型,只能通过公共防护端点访问。Mistral 计划在完成安全测试后三周发布该模型的权重。“与此同时,我们将与可信合作伙伴和政府合作,确保开放权重可用于防御,而不是用于 [perform] 恶意攻击,”Mistral 科学副总裁 Pierre Stock 告诉 TechCrunch。Stock 表示,延迟发布是为了应对 Mistral 核心受众——企业和机构——日益加剧的安全担忧,而开放权重模型仍然更易于审计。
模型使用 4,000 个英伟达 GPU 训练,计算需求更低
Stock 表示,Mistral Large 4 完全使用 Mistral 的算力和 4,000 个英伟达 GPU 进行训练,“这比我们的中国竞争对手少两到三倍,也显著少于闭源竞争对手”。Stock 表示,Mistral 希望该模型在开放权重模型中处于领先地位,尤其是在中国以外的地区。Stock 称,得益于有针对性的训练,该模型还可能在对客户至关重要的特定领域超越闭源模型,而多模态能力可以在这些领域增加价值。
Mistral 瞄准网络安全、金融和芯片设计应用
Stock 表示,Mistral Large 4 的优化应用场景包括网络安全、金融和芯片设计。芯片设计是 Mistral 两大主要支持者的核心业务:领投其 C 轮融资的荷兰巨头 ASML,以及上个月以 210 亿欧元估值(约 243.9 亿美元)领投其 D 轮融资的三星。该公司试图传达的是,决定托管中国模型并不意味着它转型为一家单纯的推理服务提供商。在 Le Chonk 的支持下,该公司相信自己仍应被视为一家前沿实验室。
常见问题
Mistral Large 4 是什么,何时发布?
Mistral Large 4 是法国 AI 实验室 Mistral AI 于周二发布的一款拥有 1 万亿参数的多模态模型。该模型被昵称为“Le Chonk”,定位为介于闭源模型和通常在中国开发的开放权重模型之间的“AI 第三条道路”。
Mistral Large 4 的权重何时可用?
Mistral 计划在完成安全测试后三周发布 Mistral Large 4 的权重。目前,该模型只能通过公共防护端点访问。据科学副总裁 Pierre Stock 称,Mistral 将与可信合作伙伴和政府合作,确保开放权重可用于防御,但不会被用于恶意攻击。
Mistral 使用了多少个 GPU 训练 Mistral Large 4?
据 Stock 称,Mistral Large 4 完全使用 Mistral 的算力和 4,000 个英伟达 GPU 进行训练,这比中国竞争对手少两到三倍,也显著少于闭源竞争对手。