Anthropic 消息线程将 Claude Code 的 TTFT 降低约 35%

关键要点

  • Anthropic 于 2026 年 11 月 3 日宣布为 Claude Code 推出消息线程,对于包含 500,000 至 100 万个代币的请求,首个代币生成耗时的中位数缩短约 35%。
  • 根据 Anthropic 的技术文档,消息线程通过避免重复上传对话内容来减少客户端数据传输量,同时 Claude 在每轮处理时仍会读取完整的对话历史。
  • 消息线程会在闲置五分钟后过期,并通过 Messages API 以公开测试版形式提供,默认向大多数 Claude Code 用户启用,支持所有 Claude 模型。

Anthropic 于 2026 年 11 月 3 日宣布为 Claude Code 推出消息线程。该功能通过减少重复上传对话内容,使包含 50 万至 100 万个代币的 Claude Code 请求的首个代币响应时间的中位数缩短了约 35%。该功能以公开测试版形式提供给 Messages API,默认向“多数”Claude Code 用户启用,但本身并不会降低代币费用。

消息线程减少重复上传对话内容

传统上,每个新的 Messages API 请求都会包含完整的对话历史记录,包括之前的消息和工具调用。随着会话不断变长,客户端会反复上传相同的信息,而 API 必须在 Claude 响应之前对其进行验证和分词。

使用消息线程时,第一个请求仍会发送完整对话,包括系统提示和工具定义。后续请求只发送新消息以及对先前响应的引用。Anthropic 会在其服务器上重建完整对话,而 Claude 仍会在每一轮处理全部历史记录。因此,该功能减少了客户端传输的数据量,但本身并不会降低 API 成本:Anthropic 仍会对 Claude 处理的代币收费。

开发者可以将消息线程与 Claude 的提示缓存功能结合使用,该功能允许以折扣代币费率重复使用之前处理过的内容。这两项功能可以协同工作,分别降低延迟和处理成本。

Anthropic 指出,累积文件编辑和工具结果的长时间运行编码代理、反复截取屏幕截图的计算机使用代理,以及处理大量文档或图像的应用,都可能适用此功能。AI 代理基础设施公司 StackOne 的联合创始人兼首席技术官 Guillaume Lebedel 通过一项模拟展示了潜在的数据节省效果。假设每一步都会产生一张 150 KB 的屏幕截图,那么在没有消息线程的情况下,第 50 个请求将上传约 7.5 MB;使用该功能时则约为 0.15 MB。在一个包含 50 步的会话中,估计累计屏幕截图上传量将从约 191 MB 降至 7.5 MB,减少约 25 倍。这些数据并非基于实时 API 测试。

Messages API 新增线程参数和 SDK 支持

开发者可以在初始 Messages API 请求中使用 thread={"type": "create"} 创建线程,并同时提供完整对话历史记录、系统提示和工具。后续请求可以使用 thread={"type": "continue", "previous_message_id": first.id},其中 first.id 是初始请求返回的响应 ID。后续请求只需包含新消息;API 会保留之前的对话、系统提示和工具定义。

由于该功能仍处于测试版,直接发起请求的开发者必须添加 anthropic-beta 标头,其值为 message-threads-2026-08-12。在 Python SDK 中,可以通过 betas=["message-threads-2026-08-12"] 指定测试版。

Anthropic 的 SDK 线程辅助程序会管理对话历史记录和 API 参数。在 Python 中,开发者可以使用 client = anthropic.Anthropic() 创建客户端,并通过 client.beta.messages.thread() 初始化线程。该辅助程序接受模型、最大输出代币数和初始系统提示等参数。开发者使用 thread.send() 提交消息。该辅助程序会在首次请求时创建线程,在后续轮次中继续使用该线程,在本地保留一份对话历史记录,并自动添加所需的测试版标头。

消息线程在闲置五分钟后过期

线程在闲置五分钟后过期。线程中存储的每个成功请求都会重置这五分钟的期限。如果开发者暂停一段时间后返回,SDK 辅助程序可以重新发送对话历史记录以建立新线程,因此中断后的首次请求可能需要更长时间,但编码会话可以继续使用之前的上下文。

直接管理线程的开发者必须自行处理过期问题。尝试继续使用不可用的线程会返回 404 错误;客户端必须重新发送完整对话并建立新线程。

Anthropic 表示,线程内容经过加密,并保存在服务器内存中,不会写入持久存储。尽管线程会在闲置五分钟后过期,其内容在最后一次使用后仍可能在内存中保留长达一小时。目前,消息线程不符合零数据保留和 HIPAA 的使用条件,也不支持某些上下文管理功能,包括按需压缩。

Claude 消息线程的可用性和技术细节

  • 消息线程以公开测试版形式提供给 Anthropic 的 Messages API,并默认向“多数”Claude Code 用户启用。
  • 对于包含 50 万至 100 万个代币的 Claude Code 请求,首个代币响应时间的中位数缩短了约 35%。
  • 第一个请求会发送完整对话,包括系统提示和工具定义;后续请求会发送新消息以及对先前响应的引用。
  • Claude 会在每一轮处理完整对话,因此如果不采用其他降低成本的措施,代币用量将保持不变。
  • 测试版中的直接 API 请求需要使用 anthropic-beta 标头,值为 message-threads-2026-08-12;Python SDK 的测试版值也是 message-threads-2026-08-12。
  • 线程在闲置五分钟后过期,其内容在最后一次使用后仍可能在服务器内存中保留长达一小时。
  • 消息线程以测试版形式适用于所有 Claude 模型,包括通过 AWS 上的 Claude Platform、Microsoft Foundry 中的 Claude,以及 Google Cloud 上由 Anthropic 管理的 Claude 模型使用的情况。

常见问题

Claude 消息线程会降低代币成本吗?

单独使用不会。Claude 仍会在每一轮处理完整对话,Anthropic 也会对 Claude 处理的代币收费。开发者可以将消息线程与提示缓存结合使用,以折扣代币费率重复使用之前处理过的内容。

开发者如何继续使用消息线程?

后续 Messages API 请求可以使用 thread={"type": "continue", "previous_message_id": first.id},并且只包含新消息。Python SDK 线程辅助程序可以自动管理线程和所需的测试版标头。

Claude 消息线程何时过期?

线程在闲置五分钟后过期。成功请求会重置过期计时。线程内容在最后一次使用后仍可能在服务器内存中保留长达一小时。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论