OpenAI API 推出 12 小时提示缓存,面向常驻智能体:写入按输入价 2.5 倍计费,读取仍享缓存折扣
阅读 0
- 发布日期
- 2026-10-21
- 类型
- 产品/应用
- 相关机构
- OpenAI
- 信息来源
- agipulse
这件事意味着什么
【要点】
OpenAI 于 10 月 20 日在 API 中加入 12 小时提示缓存。开发者可以让共享的指令、工具定义和参考资料在缓存里保留至少 12 小时,几个小时后再调用时仍按较低的缓存读取价计费。
一、怎么用:适用于 GPT-5.6 及之后的模型,在 Responses API 中把 prompt_cache_options.ttl 设为 "12h";默认仍是 30 分钟。同一个请求里可以混用,比如共享指令用 12 小时,较新的对话内容用 30 分钟。
二、价格:12 小时缓存的写入价是普通输入价的 2.5 倍,30 分钟缓存写入是 1.25 倍;读取价两者相同,多数模型为普通输入价的 0.1 倍,GPT-6.1 Sol 为 0.05 倍。
三、OpenAI 说明,12 小时是最短保留时间,不是删除期限,也不改变数据保留政策。
四、OpenAI 以 dots 这类常驻智能体为例:一整天反复用同一套上下文时,多次复用省下的钱可以明显超过额外的写入成本。
【可核验】
提示缓存文档:https://developers.openai.com/api/docs/guides/prompt-caching#cache-lifetime
API 更新日志:https://developers.openai.com/api/docs/changelog
OpenAI Developers 发布帖:https://x.com/OpenAIDevs/status/2112603916076781778
【我们的判断】
一、这是为常驻智能体准备的计费选项。智能体的调用往往间隔几十分钟到几小时,30 分钟缓存经常过期,长缓存能直接降低成本。
二、写入价翻倍,只有在一天内复用次数足够多时才划算;调用稀疏或上下文常变的应用用默认 30 分钟更合适。
继续了解相关进展
本页由 AGI Pulse 聚合,仅保留标题与链接,不转载正文。 编辑政策