对于轮次较长的对话应用程序，总结或过滤之前的对话

对于轮次较长的对话应用程序，总结或过滤之前的对话 由于模型有固定的上下文长度显示，所以用户与模型助手之间的对话不能无限期地继续。 针对这个问题，一种解决方案是总结对话中的前几个回合。一旦输入的大小达到预定的阈值，就会触发一个查询来总结先前的对话部分，先前对话的摘要同样可以作为系统消息的一部分包含在内。或者，整个对话过程中的先前对话可以被异步总结。