摘要
混合代理(MoA)架构通过分层推理管道提升推理时扩展性,但现有变体随深度增加易出现性能退化或饱和。本文提出 ReM-MoA,一种记忆增强型 MoA 框架,通过两种机制维持扩展性:一是利用评审代理对多层推理轨迹进行持久化存储与排序的“分级推理记忆”;二是“精选多样化记忆路由”,向不同代理展示成败轨迹的独特组合,以保留探索多样性并传播高质量推理。实验表明,该框架在多个推理基准上优于现有方法,且优势随深度增加而扩大。
AI 推荐理由
论文提出基于记忆增强的 MoA 框架,核心创新在于推理记忆的存储、排序与路由机制。
研究机构
University of Southern California
Iowa State University
Cisco AI Research
论文信息