缓存模式

上下文缓存支持两种工作模式，可根据便捷性、确定性及成本需求进行选择。 隐式缓存 ： 自动启用 ，用户无需额外配置，且无法关闭，适合更关注接入便捷性、难以显式管理或固定前缀的场景。系统会自动识别请求中的公共前缀并进行缓存。 显式缓存 ：需要 主动开启 的缓存模式。需要主动配置创建缓存，且支持缓存确定性命中。 注意 隐式缓存无需配置，系统自动开启。当请求使用显式缓存时，隐式缓存不生效。 对比项 隐式缓存 显式缓存 适用场景 适合追求接入便捷、无需显式创建与管理缓存的通用场景，尤其适用于多轮对话、工具调用等公共前缀会随交互持续增长、难以稳定固化前缀的场景。系统会自动识别公共前缀并进行缓存。 适合需要配置创建缓存、稳定复用某段固定前缀并具备更强可控性的场景，例如角色扮演、固定指令模板等前缀稳定且工具调用较少或结构稳定的多轮对话。 配置方式 无需配置，不可关闭 需要手动配置 是否影响回复质量 不影响 不影响 支持模型 详见 支持模型 详见 支持模型 支持 API Responses API Chat API Batch API Responses API 缓存命中 无法保证命中率，受多因素影响，具体命中概率由系统判定 确定性命中（缓存命中率更高） 缓存有效期 动态变化，系统会定期清理长时间未使用的缓存数据 支持配置缓存过期时间 缓存最少 Token 数 默认：1024 部分模型：2048。适用模型： doubao-seed-2-1-turbo-260628 、 glm-5-2-260617 、 deepseek-v4-pro-ga-260813 、 deepseek-v4-flash-ga-260731 、 deepseek-v4-pro-260425 、 deepseek-v4-flash-260425 详见 工作原理 前缀缓存：256 详见 前缀缓存 Session 缓存：无限制 命中缓存的输入 Token 计费 根据模型输入长度分段计费 根据模型输入长度分段计费 缓存存储计费 不计费 计费 对比项 隐式缓存 显式缓存 适用场景 适合追求接入便捷、无需显式创建与管理缓存的通用场景，尤其适用于多轮对话、工具调用等公共前缀会随交互持续增长、难以稳定固化前缀的场景。系统会自动识别公共前缀并进行缓存。 适合需要配置创建缓存、稳定复用某段固定前缀并具备更强可控性的场景，例如角色扮演、固定指令模板等前缀稳定且工具调用较少或结构稳定的多轮对话。 配置方式 无需配置，不可关闭 需要手动配置 是否影响回复质量 不影响 不影响 支持模型 详见 支持模型 详见 支持模型 支持 API Responses API Chat API Batch API Responses API 缓存命中 无法保证命中率，受多因素影响，具体命中概率由系统判定 确定性命中（缓存命中率更高） 缓存有效期 动态变化，系统会定期清理长时间未使用的缓存数据 支持配置缓存过期时间 缓存最少 Token 数 默认：1024 部分模型：2048。适用模型： doubao-seed-2-1-turbo-260628 、 glm-5-2-260617 、 deepseek-v4-pro-ga-260813 、 deepseek-v4-flash-ga-260731 、 deepseek-v4-pro-260425 、 deepseek-v4-flash-260425 详见 工作原理 前缀缓存：256 详见 前缀缓存 Session 缓存：无限制 命中缓存的输入 Token 计费 根据模型输入长度分段计费 根据模型输入长度分段计费 缓存存储计费 不计费 计费