Tether Data 开源了 VisionPsy-Nano,这是一款 4.6 亿参数的视觉-语言模型,旨在无需持续云连接的情况下在智能手机、笔记本电脑和边缘设备上实现设备端运行。该模型由 QVAC 开发,QVAC 是 Tether Data 的 AI 研究计划,聚焦开放和去中心化的 AI 系统。本次发布旨在将先进的多模态能力从集中式数据中心转移到由用户控制的设备上,体现了行业向边缘端 AI 部署的更广泛趋势。
VisionPsy-Nano 在 5 亿以下参数类别中取得最高分
Tether Data 表示,VisionPsy-Nano 在评估的视觉-语言模型中(少于 5 亿参数)取得了最高的总体归一化得分。该模型得分为 62.3,并在该类别中凭借总体质量与性能排名第一。据已发布的评估结果,该模型在 17 项基准中的 16 项上,相较竞争对手的紧凑型系统表现更佳,其中包括 Liquid AI 和 Hugging Face 的模型。
VisionPsy-Nano 旨在处理并理解视觉与文本信息。其能力包括文档分析、光学字符识别、场景理解、视觉推理和指令跟随。Tether Data 表示,VisionPsy-Nano 在移动端和边缘设备上提供先进的视觉-语言能力,同时无需依赖基于云的处理。
Tether Data 发布两种模型版本:兼顾精度与速度
Tether Data 发布了两种模型版本,以支持不同的部署需求。VisionPsy-Nano-460M 版本针对精度进行了优化,目的是在其参数规模下为标准视觉-语言评估提供强劲表现。
第二个版本 VisionPsy-Nano-460M-Flash 旨在降低面向真实移动应用的响应时间。公司表示,更快的模型保留了完整版本总体质量的约 99%,同时实现了 61.4 的归一化得分。Flash 版本设计为在显著更低的延迟下提供接近满配的模型质量,从而支持在常用智能手机上更快的 AI 响应。
公司将部分速度提升归因于使用更少的视觉 token。在包括 Google Pixel 9、Samsung Galaxy S23、Samsung Galaxy S25 Ultra 以及 Apple iPhone 15 等设备上进行的测试中,Flash 版本据称在多台选定的安卓设备上生成首个输出 token 的速度约比这些紧凑型模型快 19 到 23 倍。公司表示,该速度优势在 iPhone 15 上最高可达 36 倍。同时,公司还表示,在所选设备上测试的多家竞争系统中,该模型的延迟仍保持更低。
模型在四类能力上展现表现
尽管体积相对较小,VisionPsy-Nano 在公司评估中仍在四个主要能力类别中均排名第一。在文档理解与光学字符识别方面,该模型旨在从复杂图像中识别文本和结构信息,包括财务报告、流程图和信息图表。
其视觉感知能力包括场景分析与空间布局识别。公司表示,在该方面,该模型在其体积类别中相对排名第二的系统高出 4.6%。VisionPsy-Nano 还展示了强劲的视觉推理与知识表现。据评估结果,它在约 5 亿参数类别中相对其他模型的优势为 7.4%。
公司还进一步报告称,该模型在指令跟随与可靠性测试中表现强劲。在部分评估中,它的结果超过了其体积范围内自身规模基础上从 1.6 到 2.3 倍的模型。Tether Data 表示,该模型的基准结果显示,紧凑型 AI 系统能够与明显更大规模的模型竞争,同时仍适合在消费级设备上直接部署。
模型部署选项包括 Hugging Face 与移动端框架
两种版本均已在 Apache 2.0 许可下发布开放的模型权重。公司表示,这些模型旨在支持研究、教育以及更广泛的开发者访问。开发者可以通过三种部署选项使用这些模型:通过 Hugging Face Transformers 进行全精度推理;通过 llama.cpp 在移动设备上部署量化的 GGUF 版本;并可使用 vLLM 的面向生产的选项进行高吞吐服务器推理。
Tether Data 还发布了基于 VLMEvalKit 协议的评估配置与测试框架,以支持可复现性。
Paolo Ardoino 强调无需集中式基础设施的本地 AI 性能
Tether 首席执行官 Paolo Ardoino 表示,这些结果表明,高效且可在本地部署的 AI 可以在不完全依赖集中式数据中心的情况下提供高质量表现。他指出,如果将该技术以开放方式提供,开发者将能够更深入地访问在用户已拥有的设备上运行的私有 AI 工具。
常见问题
VisionPsy-Nano 是什么,和其他 AI 模型有什么不同?
VisionPsy-Nano 是由 Tether Data 的 QVAC 研究计划开发的一款 4.6 亿参数的视觉-语言模型。它被设计为可直接在智能手机、笔记本电脑和边缘设备上运行,而无需持续的云连接。该模型实现了 62.3 的归一化得分,这是少于 5 亿参数的视觉-语言模型中最高的成绩,并且在针对竞争紧凑型系统的 17 项基准中有 16 项表现良好。
VisionPsy-Nano-Flash 版本相比标准模型快多少?
VisionPsy-Nano-460M-Flash 版本生成首个输出 token 的速度约比部分紧凑型模型快 19 到 23 倍,涉及的安卓设备包括 Google Pixel 9、Samsung Galaxy S23 和 Samsung Galaxy S25 Ultra。在 Apple iPhone 15 上,速度优势最高可达 36 倍。Flash 版本在实现 61.4 的归一化得分的同时,保留了完整版本总体质量的约 99%。
VisionPsy-Nano 在什么许可下发布,开发者如何使用它?
VisionPsy-Nano 的两种版本均已在 Apache 2.0 许可下发布开放的模型权重。开发者可通过三种选项部署:通过 Hugging Face Transformers 进行全精度推理;通过 llama.cpp 在移动设备上部署量化的 GGUF 版本;以及使用 vLLM 的面向生产的选项用于高吞吐服务器推理。