高通重新设计下一代移动 NPU,共享内存提升 50%

QCOM-2.69%

Qualcomm 已重构其下一代 Hexagon NPU 架构,以支持移动设备上的 AI Agent 工作负载。更新后的处理器将 NPU 共享内存容量提升 50%,减少对频繁访问外部内存的需求,并支持更长的上下文处理、多模型协作以及 AI Agent 并行运行。

该架构引入了专门用于 Transformer 工作负载的新型元素加速器,并新增对专家混合(MoE)模型的支持。这类模型会针对每项任务动态激活所需的参数。对于 INT4 模型,该平台可将预填充性能提升最多 50%,同时提高代币生成速度。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论