摘要
针对大语言模型在复杂上下文中难以定位关键证据的问题,本文提出 ContextRL,一种上下文感知的强化学习方法。该方法通过间接辅助目标,奖励模型从两个相似上下文中选择支持问答对的那一个,从而促进细粒度 grounding。在代码智能体轨迹和多模态图像领域构建对比数据后,ContextRL 在长程基准测试中平均提升 2.2%,在视觉问答基准中提升 1.8%。实验证明性能增益源于上下文选择目标而非单纯的数据增强。
AI 推荐理由
论文提出 ContextRL 方法,旨在提升长程推理和多模态推理中的细粒度证据定位能力。
研究机构
Princeton University
UC Davis
论文信息