谷歌 Gemini API 推出工具检索功能,助力智能体高效扩展

GOOGL-3.48%

关键要点

  • Google Gemini API 在 Interactions API 中推出预览版工具搜索功能,可按需加载工具的参数架构,高效管理大型工具库。
  • 根据 Google 的文档,工具搜索可减少输入 token 数量、降低延迟并提高工具选择准确性,且无需构建或托管索引。
  • 工具搜索支持 Gemini 3.6 及更高版本的模型,包括所有 Gemini 4 模型,按标准模型费率计价,不另行收费。

Google 已在 Gemini API 中推出工具检索功能,目前可在 Interactions API 中以预览版形式使用。该功能让智能体能够高效管理数十或数百种工具:仅在需要时加载参数 schema,而不必在每次请求中发送所有工具的完整参数 schema。此功能可减少输入 token 数量、降低延迟,并避免候选列表变得过于庞大,从而提高工具选择的准确性。

工具检索在 Gemini API 中的工作方式

要启用工具检索,开发者需在请求中添加 tool_search 工具,并对希望延迟加载的工具设置 defer_loading: true。模型仍会收到每个延迟加载工具的名称和描述,因此可以看到有哪些选项可用,但参数 schema 不会进入上下文窗口。当模型需要使用某个工具时,会按名称请求该工具,API 随即加载完整参数 schema,模型再调用该函数——整个过程都在同一个请求中完成。在一次 API 调用中,模型会搜索工具,API 会加载其 schema,然后模型发出函数调用。这三个步骤都会显示在 interaction.steps 中,因此在调试工具名称或描述时,可以轻松检查模型考虑过哪些工具。典型工作流会依次显示 tool_search_call、tool_search_result 和 function_call 步骤,其中工具搜索步骤会列出请求的函数名称,工具搜索结果步骤则会返回完整参数 schema。之后的执行过程与常规函数调用流程相同:代码运行相应操作,并返回 function_result。

服务端和客户端检索选项

工具检索无需构建或托管索引,因为 Gemini 会在服务端执行搜索。所需的代码更改仅包括添加新工具,并为指定延迟加载的工具添加一个标志。这样,开发者便能让最常用的工具预先加载,同时延迟加载其他不常用的工具。工具检索与前缀缓存配合良好,因为延迟加载的 schema 不会出现在提示开头,而在对话后续阶段加载的 schema 也不会影响各轮之间的缓存前缀。工具检索还支持 Gemini API 中的远程 MCP 服务器。对 mcp_server 工具设置 defer_loading: true,意味着该服务器提供的所有工具都会按需加载,因此无需逐一列出工具,也能连接到大型服务器。

另外,如果开发者维护自己的工具注册表、嵌入索引或按用户划分的权限筛选器,可以在 tool_search 中设置 "execution": "client",并定义搜索参数。客户端检索每次搜索都会增加一次往返,因为查找操作由应用程序执行。工具无需预先声明,因此用户连接集成后,可以在对话中途公开新工具。当模型为客户端搜索工具发出 function_call 时,应用程序会在 function_result 中返回匹配的工具 schema。

定价、模型支持和入门指南

工具检索不收取额外费用。输入和输出 token 按所调用模型的标准费率计费。启用 tool_search 会增加一小段固定的输入 token 数量;模型加载的每个 schema 在对话剩余期间都按输入 token 计费,计费方式与预先声明的工具相同。如果从未加载的 schema 所节省的 token 多于已加载 schema 消耗的 token,开发者就能节省 token;对于大型工具库,这通常如此。工具检索支持 Gemini 3.6 及更高版本的模型,包括所有 Gemini 4 模型,可在 Interactions API 中使用。

主要事实

  • 工具检索目前可在 Gemini API 的 Interactions API 中以预览版形式使用
  • 要使用此功能,需在请求中添加 tool_search 工具,并对要延迟加载的工具设置 defer_loading: true
  • 延迟加载的工具会显示其名称和描述,但参数 schema 会留在上下文之外,直到需要时才加载
  • 工具检索在一次 API 调用中完成;搜索、schema 加载和函数执行都会显示在 interaction.steps 中
  • 无需构建或托管索引;Gemini 会在服务端执行搜索
  • 在 tool_search 工具上设置 "execution": "client",即可使用客户端检索模式
  • 工具检索与前缀缓存集成,可确保缓存前缀在各轮之间保持一致
  • 远程 MCP 服务器可通过 defer_loading: true 按需加载其提供的所有工具
  • 按模型标准费率计费,不收取额外费用;tool_search 会增加一小段固定的输入 token 数量
  • Interactions API 支持 Gemini 3.6 及更高版本的模型(包括所有 Gemini 4 模型)使用工具检索

常见问题

工具检索如何减少大型工具库中的 token 消耗?

工具检索会将参数 schema 留在初始上下文之外,仅在模型请求特定工具时加载,从而节省 token。对于大型工具库,如果模型只使用其中一部分工具,开发者就能节省所有未加载 schema 所需的 token;通常,这些节省会超过 tool_search 增加的少量固定 token 数量。token 用量取决于具体的流量模式,应结合具体使用场景进行衡量。

工具检索能否与自定义工具注册表或远程 MCP 服务器配合使用?

可以,工具检索同时支持服务端和客户端检索模式。对于自定义注册表,开发者可在 tool_search 工具上设置 "execution": "client",并定义自己的搜索参数,从而实现按用户筛选权限,以及在对话期间动态公开工具。对于远程 MCP 服务器,在 mcp_server 工具上设置 defer_loading: true 后,服务器提供的每个工具都会按需加载,因此无需手动逐一列出工具,也能连接到大型服务器。

哪些 Gemini 模型支持工具检索?该功能在哪里可用?

工具检索支持 Gemini 3.6 及更高版本的模型,包括所有 Gemini 4 模型,可在 Interactions API 中使用,目前该功能以预览版形式提供。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论