据格隆汇报道,11 月 17 日,中国日均 Token 调用量激增至 500 万亿以上。郑伟民的研究团队开发了 Mooncake 推理系统,该系统荣获 2025 年 Eric Redder 最佳论文奖。其核心创新是一种解耦技术,通过将读写操作分配给不同的处理器来提高现有算力的利用效率,使系统能够多处理 75% 的用户请求,并将长文本吞吐量提升至五倍。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见
声明。