long-context reasoning reinforcement learning data-centric AI
摘要

长上下文推理是大语言模型的关键能力,尤其在自主智能体处理长轨迹时至关重要。尽管强化学习已成为提升该能力的主流范式,现有工作多集中于奖励工程,而多样化训练数据匮乏。本文从数据中心视角出发,提出一种简单有效的数据配方,结合最小化的基于结果的 GRPO 设置,显著提升了长上下文推理能力。该配方针对检索、多证据合成和推理三类任务,构建了包含约 1.4 万样本的八个数据集。实验表明,该方法在多个基准测试中优于 prior RL 训练集,并能有效迁移至智能体任务。

AI 推荐理由

论文核心聚焦长上下文推理能力,通过数据配方显著提升该能力。

研究机构
OpenBMB Tsinghua University
论文信息
作者 Xiaoyue Xu, Sikui Zhang, Xiaorong Wang, Xu Han, Chaojun Xiao
发布日期 2026-06-17
arXiv ID 2606.18831
相关性评分 9/10 (高度相关)