摘要
大型语言模型在逐步推理中表现优异,但在长上下文场景下常出现“重复复制”故障,即大量抄录输入文本而非有效解题。研究发现根源在于缺乏对关键证据的聚焦(Grounding)。为此,作者提出 GEAR 方法,通过奖励与关键证据的重叠并惩罚无关干扰项来优化强化学习信号。实验表明,该方法在多个基准测试中显著提升了长上下文推理准确率,同时减少了无效复制和生成长度。
AI 推荐理由
论文核心解决长上下文推理中的重复复制问题,提出基于证据的强化学习方法提升推理质量。
研究机构
Peking University
Alibaba Group
论文信息