Long-Context Reasoning Reinforcement Learning Evidence Grounding LLM Failure Modes
摘要

大型语言模型在逐步推理中表现优异,但在长上下文场景下常出现“重复复制”故障,即大量抄录输入文本而非有效解题。研究发现根源在于缺乏对关键证据的聚焦(Grounding)。为此,作者提出 GEAR 方法,通过奖励与关键证据的重叠并惩罚无关干扰项来优化强化学习信号。实验表明,该方法在多个基准测试中显著提升了长上下文推理准确率,同时减少了无效复制和生成长度。

AI 推荐理由

论文核心解决长上下文推理中的重复复制问题,提出基于证据的强化学习方法提升推理质量。

研究机构
Peking University Alibaba Group
论文信息
作者 Lizhe Fang, Weizhou Shen, Tianyi Tang, Yisen Wang
发布日期 2026-07-21
arXiv ID 2607.19345
相关性评分 9/10 (高度相关)