提示词库/任务指令/一、选择适合任务的模型和调用方式 一、选择适合任务的模型和调用方式
中文exp-2796未验证
不是所有任务都需要使用能力最强的模型。实际业务中,一次用户请求往往会拆分成多个子任务,例如意图识别、问题改写、知识库检索、结果判断、最终回答生成等。不同子任务对模型能力的要求不同,如果全部使用同一个高能力模型,可能会带来不必要的响应时间和成本开销。
1. 选择适合的模型
对于边界清晰、输出简单的任务,可以优先选择轻量模型、高速模型或高性价比模型,例如:
意图识别 文本分类 关键词抽取 格式转换 简单摘要 检索 Query 改写 规则明确的结构化信息提取
对于复杂推理、长文本生成、代码生成、多轮规划、复杂 Agent 执行等任务,则可以选择能力更强的模型,以保证任务完成质量。
2. 设置模型思考参数
如果使用的模型支持思考模式相关参数,也可以根据任务复杂度进行控制。对于数学推理、复杂规划、多步骤分析等任务,可以开启更充分的思考;对于简单分类、固定格式抽取、短文本改写等任务,则可以关闭或减少不必要的深度思考,从而获得更快的响应。
建议开发者在设计链路时,先拆分任务类型,再为不同环节选择合适的模型,而不是默认将所有步骤都交给同一个模型完成。
复制后粘贴到 AI 对话框发送,本次对话全程生效
出处:智谱 GLM 官方提示词教程 · docs.bigmodel.cn/cn/best-practice/latency-optimization · 可信度 S · 标签:中文 / 提示词工程 / 长上下文 / 框架 / 检索增强 怎么用(对话型)复制后粘贴到对话框发送,本次对话全程生效。想长期用:支持自定义指令的产品(设置→个性化)可设为默认。