Box 周四在开发者大会上宣布推出全新的 Box Content Retrieval 功能,将英伟达的 Nemotron 嵌入系统集成到其产品核心中。该功能依靠 Nemotron 创建的嵌入元数据,让智能体能够更有效地回答查询。英伟达生成式 AI 软件副总裁 Kari Briski 表示,查询响应速度预计将提升至四倍,错误减少 20%,使用的代币减少 90%。该系统是嵌入模型的一项重要应用:这类模型利用 LLM 预处理数据,以改进自动检索;英伟达 7 月发布的 Nemotron 在衡量检索质量的 RTEB 基准测试中名列第一。
Box 集成英伟达 Nemotron 嵌入系统
Box Content Retrieval 将英伟达的 Nemotron 嵌入系统集成到 Box 产品核心中。Box 首席执行官 Aaron Levie 解释说,这项功能“显著提升了我们的智能体搜索技术的相关性”。他补充道:“智能体不必逐份阅读文档,我们可以返回文档中与用户查询或智能体正在执行的任务最相关的内容片段。”
这项功能基于英伟达的 Nemotron Embed 项目,该项目提供开放权重嵌入模型,以改进自动检索系统。英伟达 7 月发布的 Nemotron 在衡量检索质量的 RTEB 基准测试中名列第一。
性能指标显示查询速度提升至四倍
英伟达生成式 AI 软件副总裁 Kari Briski 告诉 TechCrunch,她预计查询响应速度将提升至四倍,错误减少 20%,使用的代币减少 90%。Box 表示,这意味着用户能够享受更快、更准确且成本更低的查询服务。
由于 Nemotron 的嵌入不局限于简单关键词,而是映射底层概念,因此即便使用了不同的措辞或语言,搜索工具也能呈现相关的法律主题。Box 举例称,律师在与主动智能体配合使用后,将能通过新系统更轻松地找到相关条款和判例。
该功能将于明年年初向企业客户推出
该系统将向 Box 所有 Enterprise Advance 客户开放,并于明年年初开始推出。Nemotron 模型虽然可免费使用,但该系统高度依赖 Box 现有的元数据和权限控制。Levie 告诉 TechCrunch:“我们可能把五种不同的技术打包进一个简单的 API 里。”
系统采用开放权重 Nemotron Embed 模型
Nemotron Embed 项目提供开放权重嵌入模型,利用 LLM 预处理数据,让智能体能够更好地使用这些数据。大型实验室常常忽视这类模型。该领域一直是英伟达开源模型项目的重点。
常见问题
Box 周四在开发者大会上宣布了什么?
Box 宣布推出 Box Content Retrieval,这是一项新功能,将英伟达的 Nemotron 嵌入系统集成到其产品核心,让智能体能够更有效地回答查询。
使用 Box Content Retrieval 后,查询响应速度会提升多少?
英伟达生成式 AI 软件副总裁 Kari Briski 表示,查询响应速度预计将提升至四倍,错误减少 20%,使用的代币减少 90%。
Box Content Retrieval 何时向客户开放?
该系统将向 Box 所有 Enterprise Advance 客户开放,并于明年年初开始推出。