Latent RAG Experience Learning Agent Memory End-to-End Optimization
摘要

现有经验学习方法受限于显式文本空间,导致令牌开销大且检索与生成架构分离。本文提出 ExpWeaver 框架,利用 LLM 隐藏状态编码经验,在解码步骤中直接在隐空间检索相关经验,并通过交叉注意力聚合与门控残差机制进行整合。该流程支持端到端强化学习优化。在 13 项多样化任务上的评估表明,ExpWeaver 在 12 项任务中达到最先进水平,显著优于最强基线;同时保持与非检索基线相当的令牌效率,并展现出卓越的跨领域泛化能力。

AI 推荐理由

提出基于隐空间的经验检索机制,核心解决 Agent 记忆存储与复用架构问题。

研究机构
Department of Computer Science, University of Illinois Urbana-Champaign, Urbana, IL, USA Meta Monetization AI, USA
论文信息
作者 Tao Feng, Tianyang Luo, Jingjun Xu, Zhigang Hua, Yan Xie et al.
发布日期 2026-05-31
arXiv ID 2606.01041
相关性评分 9/10 (高度相关)