据 OpenAI Developers 称,10 月 21 日,OpenAI API 现已支持 12 小时提示缓存。开发者可以缓存共享的指令、工具和上下文,并享受更低的缓存输入费率;即使请求间隔数小时,也能复用这些缓存。此功能面向持续运行并在一天中反复使用上下文的智能体。
据开发者 Tibo 称,Codex 和 Work 的已登录用户将享有永久缓存保留。用户返回较早的对话或在数小时后继续对话时,缓存命中不会产生额外费用。
相关快讯
Aleksander Madry 重返 OpenAI,领导 AI 安全研究
OpenAI 收购 Orchestra Bio 以实现药物开发工作流程自动化
OpenAI 推出受 PIN 保护的 ChatGPT 聊天锁定功能