Tether 已开源其数据,并发布 VisionPsy-Nano 6.5 亿参数的愿景语言模型,实现 19-23 倍的速度优势,昨日已达成。

根据 Tether 在 7 月 29 日的官方公告,Tether Data 开源了 VisionPsy-Nano,这是一种 4.6 亿参数的视觉-语言模型,旨在无需云端连接即可直接在智能手机和边缘设备上运行。该模型获得了归一化基准得分 62.3,在参数少于 5 亿的评测系统中为最高分,并且在针对 Liquid AI 和 Hugging Face 的竞争紧凑型模型所做的 17 项测试基准中,有 16 项排名第一。

Tether Data 发布了两个版本:VisionPsy-Nano-460M(为精度优化)以及 VisionPsy-Nano-460M-Flash(为降低延迟而设计)。在包括 Google Pixel 9、Samsung Galaxy S23 和 iPhone 15 在内的设备上,Flash 版本生成首个输出代币的速度相较于选定的 Android 紧凑型模型约快 19 到 23 倍;在 iPhone 15 上最高可快 36 倍,同时以归一化得分 61.4 保持了完整版本质量的约 99%。两个版本均在 Apache 2.0 许可下发布,并通过 Hugging Face Transformers、llama.cpp 和 vLLM 提供部署选项。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论