摘要
现有经验学习方法受限于显式文本空间,导致令牌开销大且检索与生成架构分离。本文提出 ExpWeaver 框架,利用 LLM 隐藏状态编码经验,在解码步骤中直接在隐空间检索相关经验,并通过交叉注意力聚合与门控残差机制进行整合。该流程支持端到端强化学习优化。在 13 项多样化任务上的评估表明,ExpWeaver 在 12 项任务中达到最先进水平,显著优于最强基线;同时保持与非检索基线相当的令牌效率,并展现出卓越的跨领域泛化能力。
AI 推荐理由
提出基于隐空间的经验检索机制,核心解决 Agent 记忆存储与复用架构问题。
研究机构
Department of Computer Science, University of Illinois Urbana-Champaign, Urbana, IL, USA
Meta Monetization AI, USA
论文信息