七、延迟优化检查清单
中文exp-2802未验证
上线前,可以用以下问题检查应用是否还有优化空间:
模型选择
是否所有任务都使用了同一个模型? 简单分类、改写、抽取任务是否可以使用更轻量的模型? 复杂推理任务是否需要开启更强的思考能力? 简单任务是否可以关闭不必要的深度思考?
输出控制
是否限制了回答长度? 是否设置了合理的最大输出 Token 数? 是否避免模型生成固定模板内容? JSON 字段是否足够简洁?
输入控制
是否传入了无关历史对话? RAG 检索结果是否过多? 是否去除了重复、低相关或无效内容? 重复上下文是否可以使用缓存?
调用链路
是否存在多个串行模型调用? 是否可以合并相近任务? 是否可以并行执行互不依赖的步骤? 是否有简单规则本可以用程序逻辑完成?
用户体验
复制后粘贴到 AI 对话框发送,本次对话全程生效
出处:智谱 GLM 官方提示词教程 · docs.bigmodel.cn/cn/best-practice/latency-optimization · 可信度 S · 标签:中文 / 提示词工程 / 长上下文 / 检索增强 怎么用(对话型)复制后粘贴到对话框发送,本次对话全程生效。想长期用:支持自定义指令的产品(设置→个性化)可设为默认。