AMD 已部署 MEXT——这款于 2026 年 6 月收购的内存优化软件,可让 EPYC 处理器在服务器使用标准 DRAM 容量一半的情况下运行,并在智能体 AI 工作负载中保持最高 99% 的全 DRAM 性能。该软件由 AMD 计算与企业 AI 业务发展副总裁 Gary Smerdon 于 2023 年创立,AMD 于 2026 年 6 月 15 日收购了这家公司。它通过 AI 预测将闪存存储当作内存使用,并在应用程序提出请求之前预先加载数据。Smerdon 于 2026 年 11 月 4 日在拉斯维加斯举行的 AMD In Depth 活动上介绍了这项创新,并强调内存如今已占服务器成本的大头——保守估计占系统总支出的 60% 至 80%,甚至 90%;TrendForce 数据显示,DRAM 合约价格在 2026 年第一季度上涨 93% 至 98%,第二季度又上涨 58% 至 63%。这项技术解决了服务器设计中普遍存在的低效问题:Microsoft Azure 的研究显示,一半虚拟机从未使用过其分配内存的一半;Meta 的研究则表明,其最大型应用中有 50% 至 80% 的内存页在五分钟或更长时间内未被访问。
MEXT 将闲置内存页移至 NVMe 存储,并使用一种源自 Transformer 的 AI 模型——与大型语言模型聊天机器人属于同一类别,但训练目标是预测内存页访问,而非文本词元——来预测应用程序需要哪些页面,并在请求发生前将其移回 DRAM。该模型使用单个 EPYC 核心,在不到一秒内基于实时工作负载持续训练,无需 GPU 加速。闪存存储的单位比特成本约为 DRAM 的 1/30 至 1/50,耗电量约为其 1/30,但运行速度约慢 500 倍。MEXT 通过提前约 150 微秒进行预测来弥补这一延迟;本地部署的闪存响应时间为 50 至 60 微秒,在云环境中有时会达到两倍。该软件无需修改应用程序代码,可在裸机、虚拟机(每个客户机分配一个核心)和云部署环境中运行。只要能及时到达,页面可以乱序到达;这种灵活性是传统顺序预测系统所不具备的。
AMD 展示了 MEXT 在第六代 EPYC Venice 处理器上的多种场景性能。测试中,五个 AI Agent 组成的组合在使用一半标准 DRAM 的情况下达到全 DRAM 性能的 99%;其中内存需求最高的单个 Agent 也保持了 90% 的性能。将 DRAM 降至四分之一并使用 MEXT 后,五个 Agent 的组合仍保留了 85% 的性能。芯片设计工具 Synopsys PrimeTime 在 DRAM 减半时保留了 95% 的性能,在 DRAM 降至四分之一时保留了 80%。在 Microsoft Azure 中,一个三节点 Spark 集群在内存分配量减半的实例上保持了 99% 的性能。一台容量为 1.4TB、可同时运行两个 PrimeTime 作业的 Azure HX 服务器,使用 MEXT 后有效内存扩展至 2.6TB,可在 6.6 小时内完成四个作业,而基准配置需要 9.3 小时。AMD 给出的半 DRAM 配置每美元 DRAM 性能指标为 1.9 倍,计算方法是将性能保留比例除以 DRAM 保留比例(95% 除以 50% 等于 1.9)。该指标未计入闪存存储硬件或 MEXT 许可费用,AMD 也尚未公开定价。
AMD 自身的 IT 部门已在 145 台专用于芯片设计工作负载的服务器上部署 MEXT,通过采用启用 MEXT 的配置,避免购买每条售价 15,500 美元的 256GB 模组,从而节省了 490 万美元的 DRAM 采购支出;这相当于每 GB 约 60 美元。此举降低了 83% 的成本,公司计划在 2027 年将部署规模扩大至 2,000 台服务器。随着部署推进,Gary Smerdon 在一周内两次更新了这张幻灯片。对于外部客户,Hewlett Packard Enterprise (HPE) 是首家合作伙伴。第一阶段将推出 MEXT Ready 服务器,配备空闲处理器核心和一个空闲 NVMe 插槽。第二阶段将预装 MEXT 许可证和 AMD 的免费监控工具 RAM View。当被问及 MEXT 是否免费时,Smerdon 确认其采用付费许可模式,并通过合作伙伴销售;他将节省 75% 或更多作为其价值主张。RAM View 不收取费用,可显示服务器中有多少内存处于冷闲置状态。
AMD 系统架构与工程高级研究员兼工程师 Mahesh Wagh 介绍了 Venice 的三项叠加式功耗控制功能,可重新利用数据中心运营商已购置的容量。统一电源管理 (UPP) 将处理器和内存的功耗预算整合起来,使 35kW 机架从每台服务器 790W、共 16 台服务器,调整为每台 671W、共 18 台服务器。基于利用率的功耗调节 (UBPS) 会让一颗 600W 芯片在约 450W 的功耗下运行,直至约一半核心开始活动,随后再提升至更高频率,平均可节省约 25% 的功耗。频率自适应频谱技术 (FAST) 为不同核心组设定有保证的最低频率,使一颗物理芯片能够同时服务于高端和批处理层级工作负载——这会影响软件许可,因为数据库定价通常按核心数计算。传统数据中心机架配置会按最坏情况下的功耗场景分配容量,导致 15% 至 25% 的容量闲置;即使负载较轻,服务器仍会消耗峰值功耗的 60% 至 70%。现场演示所示的 790W 基准值比 AMD 发布资料中列出的 830W 低了约 5%,但 10% 和 15% 的功耗降幅保持一致。
Venice 是 AMD 第三代支持 Compute Express Link (CXL) 的产品,单路 SP7 芯片上的全部 96 条 PCIe 通道均可运行任一协议,并自动检测。AMD 在演示中称,重复使用现有库存的 CXL 连接 DDR4 模组,每 GB 成本比新 DDR5 低 87%。PCIe Gen 6 每条链路可达到 64GT/s,支持精确时间测量,以便网卡与核心同步,并支持通过任意端口直接注入缓存。对于 AMD 的 Instinct MI450X GPU,这些通道会切换为 AMD 专有的高速原生链路,在 CPU 与 GPU 之间提供四组 16 通道连接。一款基于 SDXI(开放式数据复制标准)的新型芯片内加速器,每个引擎可提供 100GB/s 的性能,每个插槽配备两个引擎,此外还可提供 50GB/s 的加密和哈希处理能力。仅将 SHA-256 加密操作卸载出去,就能让约 30 个处理器核心不再承担加密工作。AMD 系统架构高级研究员兼公司副总裁 Mahesh Subramony 确认,传统互连技术会消耗芯片约 10% 的功耗预算来传输数据。他还透露,每个 32 核芯片裸片都包含一个备用核心,出货产品中从不启用该核心,因为 AMD 避免采用 33 这样的核心数——它只能被 3 和 11 整除。
Venice 引入了专用微控制器,接手此前由系统管理中断负责的错误处理工作。系统管理中断会在固件运行期间暂停所有核心;这标志着逐步消除这类中断的开端。AMD 将 Venice 定位为首款搭载开源 Caliptra 1.2 信任根的 x86 处理器。该处理器支持后量子密码学,并承诺通过 Open Compute Project 在 GitHub 上发布安全审计报告。本代新增的设备溯源功能会为每颗芯片的制造流程提供经过密码学签名的记录,第三方可独立审计。AMD 强调,在沙盒中运行并搜索网络的 Agent 提高了安全要求。AMD 公司研究员、负责 Zen 架构的高级副总裁 Mike Clark 透露,Zen 6 中新增的两条 AI 指令流水线是在设计周期后期、平面规划完成后加入的,这反映出市场的快速演变。谈到计划于 2027 年推出的低功耗内存版本芯片 Verano 时,AMD 计算与企业 AI 产品组公司副总裁 Madhu Rangarajan 将其描述为专为 AMD 下一代 GPU 的头节点部署打造的产品,并指出低功耗内存对服务器而言是新事物,存在可靠性方面的取舍,有些客户愿意接受,另一些则不愿接受。
MEXT 使用一种基于 Transformer 的 AI 模型,基于实时工作负载模式持续训练,预测应用程序将需要哪些内存页,并在应用程序提出请求前约 150 微秒,将这些页面从 NVMe 闪存存储预先移回 DRAM。本地部署的闪存存储响应时间为 50 至 60 微秒,系统可通过准确预测来隐藏延迟差异。该模型无需 GPU 加速,每轮训练在不到一秒内由单个 EPYC 核心完成;它根据历史访问序列学习要调回哪些页面,其方式类似语言模型预测后续文本词元。
AMD 对 145 台服务器进行内部测试,通过用启用 MEXT 的配置替换每条售价 15,500 美元(每 GB 约 60 美元)的 256GB 模组,避免了 490 万美元的 DRAM 支出,降幅达 83%。AMD 将 MEXT 的价值定位为:相比传统的纯 DRAM 方案,节省 75% 或更多。不过,MEXT 专有许可证的价格尚未公开。该软件通过合作伙伴销售;用于识别冷闲置内存页的免费监控工具 RAM View 不收取费用。
Venice 是首款搭载开源 Caliptra 1.2 信任根的 x86 处理器,并支持后量子密码学协议。AMD 承诺通过 Open Compute Project 在 GitHub 上发布安全审计报告。设备溯源功能会为每颗芯片的制造历史提供经过密码学签名的记录,使第三方能够进行审计。这些功能与澳大利亚信号局建议在 2030 年底前停止依赖传统非对称密码学的主张相符,因此,对于 2027 年购买并将在该期限之后继续服役的服务器而言,后量子支持尤为重要。
相关快讯