OpenAI API 于 10 月 21 日推出 12 小时提示词缓存;Codex 和 Work 用户可使用永久缓存

据 OpenAI Developers 称,10 月 21 日,OpenAI API 现已支持 12 小时提示缓存。开发者可以缓存共享的指令、工具和上下文,并享受更低的缓存输入费率;即使请求间隔数小时,也能复用这些缓存。此功能面向持续运行并在一天中反复使用上下文的智能体。

据开发者 Tibo 称,Codex 和 Work 的已登录用户将享有永久缓存保留。用户返回较早的对话或在数小时后继续对话时,缓存命中不会产生额外费用。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论