RAG Knowledge Injection Reinforcement Learning Memory Architecture
摘要

检索增强生成(RAG)虽提升事实准确性,但增加延迟与工程开销。本文提出RING范式,将大规模外部知识注入“混合记忆专家”,并通过强化学习在参数化记忆中学习搜索策略,彻底移除外部检索器。训练分三阶段:利用双因果注意力进行继续预训练以注入新知识;监督微调教授“先搜后答”模式;分层奖励强化学习优化路由与搜索策略。RING理论上近似无搜索的RAG目标,并在构建的新基准News-2025上验证了其在大模型截断后新知识注入中的准确性与效率优势。

AI 推荐理由

论文核心提出将外部知识注入参数化记忆专家,通过强化学习优化内部检索策略,属于典型的记忆增强与架构研究。

研究机构
中国科学院计算技术研究所 AI安全国家重点实验室 中国科学院大学 华为公司
论文信息
作者 Shicheng Xu, Liang Pang, Liyi Chen, Zihao Wei, Jingcheng Deng et al.
发布日期 2026-08-03
arXiv ID 2608.01630
相关性评分 9/10 (高度相关)