英伟达 NeMo Fabric Hermes SDK 通过嵌入式 AI Agent 处理请求

关键要点

  • 英伟达 NeMo Fabric Hermes SDK 通过嵌入式 Hermes AI 智能体执行请求,并在连续调用之间复用对话历史,直至运行时停止。
  • 文档中记载的适配器 ID 为 nvidia.fabric.hermes,temperature 为 0.0,top_p 为 0.9,max_tokens 为 1024,运行时最大轮数设为 8。
  • sdk.enabled 的默认值为 true;禁用时,SDK 调用会失败,错误代码为 hermes_sdk_disabled,retryable 设为 false。

英伟达 NeMo Fabric 的 Hermes SDK 路径通过适配器主机中嵌入的 Hermes AIAgent 执行请求。文档发布于 2026-11-11T18:00:00+08:00,指出该路径会返回规范化结果,并在按顺序调用时复用对话历史。该页面标注适用于 NeMo Fabric dev 版本,并注明最新文档版本为 v0.6.1。

嵌入式 AIAgent 执行与对话复用

SDK 路径不需要特定接口的软件包或前端构建。开发者完成通用安装后,可在 Hermes 适配器环境中安装所选工具和 MCP 服务器所需的其他依赖。按顺序进行的 SDK 调用会复用同一个代理和对话,直至运行时停止。API、浏览器和终端对话不会通过该代理运行,也不会继承其实时历史记录。持久化文件无法实现跨运行时恢复。

SDK 调用会返回规范化的 NeMo Fabric RunResult 对象。启用 Relay 后,适配器会在返回结果前完成并刷新可用的 ATOF 和 ATIF 证据。原生接口响应仍保持其原生格式。Runtime.invoke_stream() 使用由 Relay 提供支持的事件流,规范化结果可通过 stream.result() 获取。

配置 Hermes SDK 适配器

文档中的配置使用规范化的 FabricConfig 字段来设置模型、指令、工具、技能、MCP 服务器、工作区、轮次上限和遥测;Hermes 专属选项和原生接口选择则放在 harness.settings 下。示例将适配器 ID 设为 nvidia.fabric.hermes,使用 OpenAI 兼容的提供方,并将模型名称设为 your-model,同时将 base_url 指向占位端点 https://MODEL_HOST/v1。API 密钥从 MODEL_API_KEY 环境变量中读取。示例将 temperature 设为 0.0、top_p 设为 0.9、max_tokens 设为 1024。启用了工具文件选择器,并屏蔽了终端选择器;运行时限制通过 runtime.max_turns 设为 8 轮;环境使用本地提供方,工作区设为 ..

规范化配置有三条文档说明的规则。仅支持 instructions.system.mode: replace。工具选择器必须使用 Hermes 工具集名称。runtime.max_turns 字段控制代理循环。

Hermes 设置及其默认行为

Hermes 描述符使用封闭式架构,因此不接受未知设置。sdk.enabled 设置默认为 true,并会初始化嵌入式 SDK 代理。将其设为 false 会启用仅原生执行模式,该模式要求至少启用一个原生接口。reasoning_config 设置默认为 {"effort": "none"},并接受可选的 enabled 布尔值,以及 none、minimal、low、medium、high 或 xhigh 这几种 effort 值。plugins_enabled 设置默认为空列表,接受原生 Hermes 插件标识符;NeMo Relay 则通过 NeMo Fabric 遥测设置进行配置。save_trajectories 设置默认为 false,会将原生 JSONL 轨迹与规范化遥测分开保存。max_tokens 设置仅在所选模型没有显式设置 max_tokens 时才会限制响应令牌数;如果两者都未设置,Hermes 将使用其原生默认值。terminal_timeout 设置默认为 60 秒,且必须为正数。该设置适用于 Hermes 终端工具操作,不会启用 TUI。

启动、MCP 服务器可用性与错误报告

嵌入式 SDK 代理默认启用,并在运行时启动期间初始化,同时创建其父会话数据库和由 SDK 管理的 MCP 连接。SDK 初始化错误仍会作为启动错误处理。即使部分已配置的 MCP 服务器不可用,运行时仍会启动。Hermes Agent 会在启动时分别连接每个服务器,并保留已成功连接服务器的工具。每个结果都会在 output.mcp.unavailable_servers 下列出 Hermes Agent 当前报告为失败的服务器,包括服务器名称、传输方式,以及值为 failed 的原因。服务器首次变为不可用时,适配器会向标准错误输出警告。每次启动新的运行时都会重新连接所有服务器。错误消息不会被报告,因为其中可能包含 URL、标头或其他凭据,因此这些条目没有 error_type;超时会报告为 failed。无效的服务器配置(例如不受支持的传输方式或身份验证模式)仍会导致启动失败。无法完成身份验证的 OAuth 服务器仍会导致调用失败。

健康检查与评估限制

启用 SDK 代理后,check() 会使用 SDK 会话和数据库的所有权信息、调用接口,以及新获取的 get_activity_summary() 诊断信息来支持 live、active 和 ready 检查。在混合运行时中,SDK 活动会报告为 idle 或 busy;单独的 API 或 TUI 进程故障不会导致 SDK 运行时健康检查失败。SDK 活动无法反映原生对话。设为 sdk.enabled: false 时,检查会监测已启用的原生进程和端点,活动状态则报告为 unknown。检查不会运行代理轮次。

评估使用方(包括 Harbor)必须保持 sdk.enabled: true 或省略该设置,因为仅原生配置无法运行 SDK 评估试验。当前的适配器元数据和 RunPlan 无法在启动前体现这一限制。文档指出,计划在调用前提供该信息。计划通过 issue #566 添加规范化接口健康目标。

NeMo Fabric Hermes SDK 已验证配置详情

  • Hermes SDK 路径通过适配器主机中嵌入的 Hermes AIAgent 执行请求,并在按顺序调用时复用对话历史。
  • 文档中指定的适配器 ID 为 nvidia.fabric.hermes,示例模型为 your-model,API 密钥从 MODEL_API_KEY 中读取。
  • 示例将 temperature 设为 0.0、top_p 设为 0.9、max_tokens 设为 1024,并将运行时 max_turns 设为 8。
  • 仅支持 instructions.system.mode: replace,工具选择器必须使用 Hermes 工具集名称。
  • sdk.enabled 设置默认为 true;禁用该设置时,SDK 调用会失败,并返回 hermes_sdk_disabled 和 retryable: false。
  • reasoning_config 的 effort 默认值为 none,接受的值为 none、minimal、low、medium、high 和 xhigh。
  • save_trajectories 设置默认为 false,terminal_timeout 设置默认为 60 秒。
  • 不可用的 MCP 服务器会列在 output.mcp.unavailable_servers 下,其中包含 name、transport 和 reason 字段。
  • 评估使用方(包括 Harbor)必须保持 sdk.enabled: true 或省略该设置。

常见问题

Hermes SDK 路径会在不同调用之间保留对话历史吗?

会。按顺序进行的 SDK 调用会复用同一个代理和对话,直至运行时停止。API、浏览器和终端对话不会通过该代理执行,也不会继承其实时历史记录;持久化文件无法实现跨运行时恢复。

如果将 sdk.enabled 设为 false,会发生什么?

将 harness.settings.sdk.enabled 设为 false 后,必须至少启用一个原生接口。应用仍可通过 NeMo Fabric SDK 启动、检查和停止原生接口。SDK 调用会返回失败的 RunResult,错误代码为 hermes_sdk_disabled,且 retryable: false。

如果部分 MCP 服务器不可用,运行时还能启动吗?

可以。即使部分已配置的 MCP 服务器不可用,运行时仍会启动,并保留已成功连接服务器的工具。失败的服务器会列在 output.mcp.unavailable_servers 下。无效的服务器配置(例如不受支持的传输方式或身份验证模式)仍会导致启动失败。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论