提示词库/任务指令/五、使用流式输出降低用户等待感 五、使用流式输出降低用户等待感
中文exp-2800未验证
在交互式场景中,用户感受到的延迟不只是“完整回答生成完毕的时间”,还包括“多久能看到第一段内容”。即使整体生成时间不变,如果用户能更早看到输出开始出现,等待体验也会明显改善。
因此,对于 聊天对话、智能客服、长文本生成、代码生成、Agent 执行 等场景,建议优先使用流式输出。
非流式输出会在模型完成全部生成后一次性返回结果,适合短文本、批处理、后台任务等场景。流式输出则可以在模型生成过程中持续返回内容,让前端实时展示生成结果,更适合实时交互。
例如:
{ "model": "glm-5.1", "messages": [ { "role": "user", "content": "请帮我总结这篇文章的核心观点" } ], "stream": true }
在前端体验上,也可以结合以下方式进一步降低等待感:
显示“正在生成” 实时展示已生成内容 对长任务展示阶段性状态 工具调用时展示“正在检索”“正在分析”“正在生成” 对 Agent 多步骤任务展示执行进度
复制后粘贴到 AI 对话框发送,本次对话全程生效
怎么用(对话型)复制后粘贴到对话框发送,本次对话全程生效。想长期用:支持自定义指令的产品(设置→个性化)可设为默认。