据 Beating AI 介绍,Groq 3 LPX 是一套旨在加速大型语言模型推理的系统。在英伟达于 2025 年 12 月达成技术许可协议八个月后,该系统已进入全面生产阶段。Groq 3 LPX 集成了 256 颗 Groq 3 LPU 芯片;在 Artificial Analysis 使用 Gemma 4 31B、处理 100,000 个输入代币的测试中,其输出速度达到每秒 3,431 个代币,约为当时公开可用 API 所能达到的最高速度的 4 倍。
在部署过程中,英伟达的 Rubin GPU 负责更繁重的计算,而 Groq 3 LPX 则负责优化代币生成速度,从而显著降低需要连续调用模型数十次或数百次的编程代理的延迟。云服务提供商 Nebius 将率先采用 Groq 3 LPX,Groq 本身和戴尔也属于早期采用者。