在圣克拉拉举行的 2026 AI 基础设施峰会上,包括 Micron、Samsung、SK 海力士、博通、Qualcomm、OpenAI 和 AWS 在内的芯片、云计算与人工智能领域巨头达成了广泛共识:内存与存储解耦(分层内存架构)是突破“内存墙”瓶颈的最可行技术路径。该方案不再采用依赖单一高性能内存的以 GPU 为中心的架构,而是转向分层、专用且内存与存储相互解耦的系统设计,可根据工作负载需求动态分配资源。
数据显示,Transformer 模型规模每两年增长约 240 倍,而同期内存带宽和容量仅增长约 2 倍。美国银行证券的研究表明,随着应用转向智能体式 AI,行业评估指标已从纯计算能力(FLOPs)转向 tokens/瓦和 tokens/美元等效率指标。Qualcomm 宣布推出 HBC(高带宽计算)方案,将 LPDDR 内存直接堆叠在计算芯片上;SK 海力士则推出了分层内存解决方案,包括面向内存密集型工作负载的 PIM,以及容量达到 HBM 10 倍的 HBF。Qualcomm 的 AI250 加速器预计将于 2027 年年中推出。