腾讯发布 Hy4 Flash 权重,分为三个版本;月活超 1 亿须另购书面授权

关键要点

  • 腾讯于11月18日发布Hy4 Flash三个版本的模型权重,包括指令优化版、FP8量化版(287.1GB)和预训练基础版。
  • 根据腾讯官方模型卡,标准版索引文件记录的张量数据约为440.5GB,腾讯提供vLLM与SGLang容器镜像以支持部署。
  • 腾讯Hy License 1.0规定,月活跃用户超过1亿或年收入超过5,000万美元的商业用途需另行购买书面授权,内部使用则适用例外。

腾讯于 11 月 18 日发布 Hy4 Flash 可下载模型权重,此次发布的是可部署检查点,并非 API 规范或定价公告。依腾讯官方模型卡,共释出三个版本。授权方面,采用腾讯 Hy License 1.0,针对 12 个月全球累计收入超过 5,000 万美元、或月活跃用户超过 1 亿的商业使用情境,规定须另购书面授权。

腾讯官方模型卡列出三版本,基础版用于进一步训练

依腾讯官方模型卡,三个版本的功能如下:

Hy4 flash(指令优化版):用于聊天等对话应用场景,为指令调整(instruction-tuned)模型

Hy4 flash-FP8(量化指令优化版):在指令优化基础上采用 FP8 量化,索引约 287.1GB,降低存储空间需求

Hy4 flash-base(预训练基础模型):为预训练基础版本,用于进一步训练,不可用于聊天或对话应用

依 Pandaily 验证,三个官方 Hugging Face 代码库的权重索引文件引用了可用的分片列表,匿名字节范围请求返回了每个版本的权重文件数据;上述验证为下载可用性测试,并非完整的检查点下载或成功的推理测试。

标准版索引约 440.5GB 张量数据,FP8 版约 287.1GB

依腾讯发布的技术文件,标准检查点索引记录约 440.5GB 张量数据,FP8 版约 287.1GB;上述数字为权重数据大小,并非最低 GPU 内存要求,量化可减少存储空间,但不会将版本转为小型消费端模型。部署工具方面,腾讯提供专用的 vLLM 和 SGLang 容器镜像,并提供使用八路张量并行的示例;Transformers 文件指向模型支持的 pull request,而非假设已发布的普通套件已原生支持此架构。

Engram 表默认卸载至 CPU 内存,初始配置使用 8192 token 上下文

依腾讯发布的部署文件,vLLM 配方默认情况下会将 Engram 表卸载至 CPU 内存,因此部署时需要主机内存资源。初始配置使用 8,192 个 token 的上下文;依腾讯说法,模型宣称的 100 万 token 容量并不保证所有硬件配置均能达到此上限。已发布的内存提示均为估算值,并非实际测量的最低要求;具体部署需求以腾讯官方文件为准。

腾讯 Hy License 1.0:12 个月收入超 5000 万美元,设明确内部使用例外

依腾讯 Hy License 1.0 授权条款,第 10 条规定下列情境须另行购买书面授权:12 个月全球累计收入超过 5,000 万美元的模型即服务(MaaS)业者,或在月活跃用户超过 1 亿的产品或服务中使用本模型。如果模型及其输出不提供给第三方,则适用明确定义的内部使用例外。

依 Pandaily 分析,腾讯 Hy License 1.0 源自 Apache 2.0,但明确声明并非 Apache 2.0;此次发布属于在腾讯既定条件下的开放权重版本,非完全不受限制的开源版本。

常见问题

腾讯 Hy4 Flash 此次发布的三种版本名称、各版本的核心用途差异,及 Pandaily 在 Hugging Face 的验证方式与范围为何?

依腾讯官方模型卡,三版本为:Hy4 flash(指令优化,用于聊天应用)、Hy4 flash-FP8(量化指令优化,约 287.1GB)、Hy4 flash-base(预训练基础,用于进一步训练,不可用于聊天)。Pandaily 通过匿名字节范围请求验证三个 Hugging Face 代码库的下载可用性,非完整下载或成功推理测试。

标准版与 FP8 版的张量数据大小差异、部署所需的容器镜像工具,及 Engram 表默认配置与初始上下文长度为何?

依腾讯技术文件,标准版索引约 440.5GB 张量数据,FP8 版约 287.1GB;上述为数据大小,非最低 GPU 内存要求。腾讯提供 vLLM 与 SGLang 容器镜像,支持八路张量并行。vLLM 默认将 Engram 表卸载至 CPU 内存,初始配置使用 8,192 token 上下文;内存提示均为估算值。

腾讯 Hy License 1.0 的两项商业授权触发门槛、内部使用例外的适用条件,及更大尺寸 Hy4 模型权重的发布状态为何?

依腾讯 Hy License 1.0 第 10 条,12 个月全球累计收入超过 5,000 万美元的 MaaS 业者,或在月活超过 1 亿的产品中使用,均须另购书面授权;若模型及其输出不提供给第三方,适用内部使用例外。腾讯表示,更大尺寸的 Hy4 模型权重仍在准备中,具体时程以腾讯官方公告为准。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论