上下文分片到达时的多轮推理：可扩展的分片与记忆增强强化学习

当关键任务信息分散在多轮对话中时，即使上下文完整，大语言模型准确率仍大幅下降。本文证明，通过训练模型维护紧凑的滚动记忆而非关注不断增长的历史记录，可显著缓解该问题。为实现可扩展训练，我们提出低成本分片流水线，将单轮问答数据转化为多轮碎片化信息片段，无需人工标注。仅在分片 GSM8K 上训练的记忆增强策略，显著提升了多轮准确率，并零样本泛化至更难数学及跨领域长上下文任务。