功能特性
中文exp-2804未验证
自动缓存识别 :隐式缓存,智能识别重复的上下文内容,无需手动配置 显著降低成本 :缓存命中的 Token 按更低价格计费,大幅节省成本 提升响应速度 :减少重复内容的处理时间,加快模型响应 透明化计费 :详细显示缓存命中的 Token 数量,响应字段 usage.prompt_tokens_details.cached_tokens 广泛兼容性 :支持所有主流模型,包括 GLM-5.2、GLM-5.1、GLM-5 系列等
上下文缓存通过对输入的消息内容进行计算并识别出与之前请求中相同或高度相似的内容。当检测到重复内容时,系统会复用之前的计算结果,从而避免重复计算这些内容所需的 Token。
这种机制特别适用于以下场景:
系统提示词复用:在多轮对话中,系统提示词通常保持不变,缓存可以显著降低这部分的 Token 消耗。 重复任务:对于一致的指令进行多次处理相似内容的任务,缓存可以提高效率。 多轮对话历史:在复杂的对话中,历史消息往往包含大量重复信息,缓存可以有效降低这部分的 Token 使用。
复制后粘贴到 AI 对话框发送,本次对话全程生效
出处:智谱 GLM 官方提示词教程 · docs.bigmodel.cn/cn/guide/capabilities/cache · 可信度 S · 标签:中文 / 提示词工程 / 长上下文 怎么用(对话型)复制后粘贴到对话框发送,本次对话全程生效。想长期用:支持自定义指令的产品(设置→个性化)可设为默认。