摘要
长上下文推理是大语言模型的关键能力,尤其在自主智能体处理长轨迹时至关重要。尽管强化学习已成为提升该能力的主流范式,现有工作多集中于奖励工程,而多样化训练数据匮乏。本文从数据中心视角出发,提出一种简单有效的数据配方,结合最小化的基于结果的 GRPO 设置,显著提升了长上下文推理能力。该配方针对检索、多证据合成和推理三类任务,构建了包含约 1.4 万样本的八个数据集。实验表明,该方法在多个基准测试中优于 prior RL 训练集,并能有效迁移至智能体任务。
AI 推荐理由
论文核心聚焦长上下文推理能力,通过数据配方显著提升该能力。
研究机构
OpenBMB
Tsinghua University
论文信息