LIQID 推出单租户 AI 内存基础设施服务

NVDA-2.97%
AMD+5.44%
MU-1.11%

关键要点

  • LIQID 于 2026 年 11 月 18 日在 SC26 宣布推出 LIQID as a Service,提供单租户 AI 基础设施,每台主机可扩展至 30 个 GPU 和 160 TB CXL 内存。
  • 初步测试证实,与传统单服务器架构相比,LIQID as a Service 使用相同的 GPU,每秒处理的 token 数量提高了 5–10 倍。
  • LIQID as a Service 在风冷配置下的功耗为 22–24 kW,占用 14U 机架空间,支持部署于 87% 的现有数据中心,预计于 2027 年第一季度全面推出。

LIQID 于 2026 年 11 月 18 日在 SC26 上宣布推出 LIQID as a Service。这是一项全托管、单租户 AI 基础设施服务,专为规模已超出单台服务器承载能力的工作负载而设计。每个节点起配 20 个 GPU 和 10 TB CXL 内存,最高可扩展至 30 个 GPU 和 160 TB CXL 内存,连接至一台主机。初步测试显示,与传统架构相比,使用相同 GPU 时每秒生成的令牌数量提升了 5–10 倍。该服务通过 LIQID 的互连架构和 LIQID Matrix 软件池化 GPU 与内存资源,突破 AI 内存墙,使单台服务器能够访问远超自身插槽容量的内存。

如今,AI 性能对内存的依赖程度不亚于对算力的依赖。模型、智能体和数据集持续增长,但典型 AI 服务器最多配备 8 个 GPU 和几 TB 内存。超过这一规模后,团队就不得不将工作拆分到多台服务器上、把数据转存至存储设备,或让 GPU 重新计算已经完成的工作。每种变通方式都会牺牲速度,许多团队最终只能额外购买 GPU 来增加内存。LIQID as a Service 通过 LIQID 的互连架构和 LIQID Matrix 软件将一台主机连接到 GPU 和 CXL 内存池,从而消除这一上限。

LIQID as a Service 硬件规格和功耗特征

满配 30 个 GPU 的 LIQID as a Service 节点功耗约为 22 至 24 kW,采用风冷设计,占用 14U 机架空间。该设计适配现有数据中心的电力和冷却容量。根据 Uptime Institute 发布的《2026 年全球数据中心调查》,典型机架功耗约为 11 kW,87% 的数据中心没有功耗达到或超过 50 kW 的机架。LIQID as a Service 可部署于现有的无人值守数据中心、托管机房、新兴云服务商和服务提供商边缘环境,无需液冷,也无需新建基础设施。

GPU 选项包括 NVIDIA H200 NVL、NVIDIA RTX PRO 6000 和 AMD MI350P。该基础设施采用低功耗风冷设计,可绕开新建基础设施和液冷数据中心所面临的长期需求,使客户能够更快速、更经济高效地生成令牌。

单租户架构和安全模型

每个 LIQID as a Service 部署均为单租户。每位客户都会获得一个完整或半个机架,绝不与其他客户共享;安全边界位于客户的网络边缘。LIQID 负责部署、硬件维护和故障监控。客户自行提供模型并运行自己的技术栈,因此能够完全掌控工作负载和数据,且无需与其他组织共享基础设施。

LIQID as a Service 的目标工作负载

LIQID as a Service 面向数据无法再装入单台服务器、且更快得出结果具有实际价值的工作负载。量化交易团队会利用多年的逐笔市场数据测试策略;在单台服务器的内存中保存这些历史数据,能让研究人员每天运行更多回测,并在信号仍具优势时将其投入生产。欺诈检测依赖关联银行卡、账户、设备和商家的图数据;将完整图数据保存在单台服务器的内存中,银行便能根据掌握的所有关联关系对每笔交易进行评分,并在损失不断累积之前标记可疑活动。

保险承保人员在模型参考更多历史数据、变量和情景时,能够更准确地定价风险。更大的内存容量让保险公司可以针对完整的业务组合运行风险模型,而非仅使用样本,并在条件变化时重新运行情景分析。制药和生命科学领域的发现团队会利用数十 TB 的基因组、蛋白质和筛选数据来寻找药物靶点;在内存中处理完整数据集而非切片,有助于研究人员更早发现并筛选出有潜力的靶点。

长上下文推理和 AI Agent 是另一个重要应用。每个请求和每个智能体都会构建一个键值(KV)缓存,用于保存已经完成的工作。当缓存容量超出 GPU 和服务器内存时,GPU 要么重新计算已完成的工作,要么从存储设备中读取数据,而存储速度约比内存慢 100 倍。LIQID 的池化 CXL 内存为缓存扩展提供了空间,使 GPU 能专注于生成新令牌;一台服务器因此能够支持更多并发智能体和更长的上下文,包括检索增强生成(RAG)。

借助 LIQID as a Service,可在单台服务器上运行大型模型。典型 AI 服务器最多配备 8 个 GPU;LIQID as a Service 可为单台主机分配多达 30 个 GPU,因此更大的开放模型能够在一个系统中加载和运行,而无需拆分到网络中的多台服务器上。图分析和 HPC 仿真也能受益于池化内存。根据 LIQID 的测试,图数据库拆分到多台服务器上时,性能可能下降 30% 至 50%。借助单台主机背后的最高 160 TB 内存,完整图数据或仿真数据可以保存在同一处,并以内存速度运行。

技术基础和市场供应情况

LIQID as a Service 基于与 Micron 的 Abaco 参考设计相同的池化内存技术,该技术已在 Pacific Northwest National Laboratory 进行测试。该服务计划于 2027 年第一季度全面上市。SC26 与会者可前往 5214 号展位了解更多 LIQID as a Service 的信息。

关键信息

  • LIQID as a Service 节点配置:起配 20 个 GPU 和 10 TB CXL 内存;最高可扩展至 30 个 GPU 和 160 TB CXL 内存,连接至一台主机。
  • 初步测试中的性能提升:与传统单服务器架构相比,使用相同 GPU 时每秒生成的令牌数量提升 5–10 倍。
  • 功耗和占用空间:满配 30 个 GPU 的节点功耗约为 22 至 24 kW,采用风冷设计,占用 14U 机架空间。
  • 数据中心兼容性:87% 的数据中心没有功耗达到或超过 50 kW 的机架;LIQID as a Service 适配现有电力和冷却容量。
  • GPU 选项:NVIDIA H200 NVL、NVIDIA RTX PRO 6000 和 AMD MI350P。
  • 技术基础:基于与 Micron 的 Abaco 参考设计相同的池化内存技术,该技术已在 Pacific Northwest National Laboratory 进行测试。
  • 部署模式:单租户;每位客户都会获得一个绝不与其他客户共享的完整或半个机架。
  • 宣布日期:2026 年 11 月 18 日,在 SC26 上宣布。
  • 全面上市目标:2027 年第一季度。

常见问题

LIQID as a Service 支持多大的内存容量?

LIQID as a Service 节点起配 20 个 GPU 和 10 TB CXL 内存,最高可扩展至 30 个 GPU 和 160 TB CXL 内存,连接至单台主机。这种池化内存架构使单台服务器能够访问远超传统单服务器配置的内存,从而解决 AI 内存墙问题。

满配 LIQID as a Service 节点的功耗是多少?

满配 30 个 GPU 的 LIQID as a Service 节点功耗约为 22 至 24 kW,采用风冷设计,占用 14U 机架空间。根据 Uptime Institute 发布的《2026 年全球数据中心调查》,典型机架功耗约为 11 kW,87% 的数据中心没有功耗达到或超过 50 kW 的机架,因此 LIQID as a Service 兼容大多数现有数据中心的电力和冷却基础设施。

LIQID as a Service 提供哪些 GPU 选项?

LIQID as a Service 的 GPU 选项包括 NVIDIA H200 NVL、NVIDIA RTX PRO 6000 和 AMD MI350P。客户可以选择最符合其工作负载需求的 GPU 配置。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论