xAI 将在下周部署 220,000 个英伟达 GB300 GPU,另有 220,000 个将在 11 月上线,并在 12 月下旬前再增加 220,000 个,马斯克在 X 上宣布道。部署完成后,该公司在 Colossus 1 和 Colossus 2 设施中的 GPU 总数将达到 1,440,000 个,接近这位亿万富翁近两年前宣布的运营超过 100 万个 GPU 的目标。随着 xAI 与成熟的 AI 公司 Anthropic 和 OpenAI 展开竞争,这一快速扩张将满足其基础设施需求;相比之下,Anthropic 和 OpenAI 分别已有六年和十年历史,而 xAI 的运营历史仅三年。
xAI 宣布分阶段部署 GPU,持续至 12 月
马斯克在 X 上表示,220,000 个 GB300 GPU 将于下周全面投入运行,另有 220,000 个将在 11 月上线。他补充说,如果“我们足够幸运”,还将有 220,000 个 GB300 GPU 在 12 月下旬前上线。这些新增 GPU 将扩充 Colossus 2 现有的 110,000 个 GB200 和 440,000 个 GB300 GPU,使 xAI 的 GB300 GPU 数量达到 110 万个。
Colossus 设施目前运行着 780,000 个 GPU
Colossus 1 运行着 150,000 个 H100、50,000 个 H200 和 30,000 个 GB200 GPU。该设施采用 Hopper 和 Blackwell GPU 的组合,马斯克表示,这种组合不利于训练 Grok。因此,xAI 将 Colossus 1 租给 Anthropic 用于推理。Colossus 2 仅使用 Blackwell GPU,避免了混合代际硬件造成的瓶颈。
公司建设 1.2 吉瓦发电厂以支持运营
xAI 通过建设自有发电能力来满足数据中心的电力需求。该公司因运行未经许可的燃气轮机而面临诉讼,并因此与周边社区产生争议。xAI 承诺,随着其 1.2 吉瓦发电厂投入运行,将在一年内拆除这些燃气轮机。
xAI 计划到 2027 年将容量提高七倍
马斯克表示,xAI 将在 2027 年前将其数据中心容量扩大七倍。他的目标是到 2030 年拥有 5,000 万个 H100 等效 GPU。SpaceX 正式公布了建设一套拥有 100 万颗卫星的轨道数据中心系统的计划,不过英伟达 CEO 黄仁勋表示,轨道 AI 算力目前仍是“一个梦想”。博通在 2024 年表示,三家超大规模客户计划到 2027 年构建拥有 100 万个 GPU 的集群,但没有透露这些客户的身份。
常见问题
xAI 在宣布的部署完成后共有多少个 GPU?
在 12 月下旬前部署额外的 660,000 个 GB300 GPU 后,xAI 将在 Colossus 1 和 Colossus 2 设施中运行总计 1,440,000 个 GPU。总数包括 150,000 个 H100、50,000 个 H200、30,000 个 GB200、110,000 个 GB200 以及 110 万个 GB300 GPU。
xAI 如何满足其数据中心的电力需求?
xAI 正在建设一座 1.2 吉瓦发电厂,以支持其运营。该公司此前运行过未经许可的燃气轮机,并因此引发诉讼;随着新发电厂投入运行,公司承诺将在一年内拆除这些燃气轮机。