Retrieval Augmented Generation Reinforcement Learning Indexing Strategy Latent Reasoning
摘要

检索外部知识对解决现实任务至关重要,但在查询与知识涉及隐式复杂推理时极具挑战。现有方法多依赖查询端推理,导致延迟高且未利用知识库端的推理潜力。本文提出 RL-Index,一种代理式索引框架,将检索索引推理建模为强化学习问题。该方法将推理移至索引阶段,通过 LLM 生成理由增强文档,显式编码潜在的查询 - 知识关系。利用组相对策略优化(GRPO)及检索相似度作为奖励信号,直接优化索引决策以提升检索效果。实验表明,RL-Index 在提升检索及下游问答性能的同时,显著降低了在线推理延迟。

AI 推荐理由

论文核心是将复杂推理移至索引阶段,利用强化学习优化隐含知识的推理表示。

研究机构
University of Oregon Adobe Research
论文信息
作者 Yongjia Lei, Nedim Lipka, Zhisheng Qi, Utkarsh Sahu, Koustava Goswami et al.
发布日期 2026-06-15
arXiv ID 2606.16316
相关性评分 9/10 (高度相关)