摘要
本文针对多智能体潜在推理中 KV 缓存合并顺序敏感的问题,提出 CanonicalMerge 方法。该方法通过按内容规范布局,将合并过程转化为收敛的复制状态(CvRDT),确保任意输入排列下生成字节级一致的合并缓存。实验表明,该方法在无需预知最佳顺序的情况下,性能匹配最优基线,且在多文档问答任务中显著优于输出融合方案,为多智能体推理提供了结构性保障。
AI 推荐理由
论文核心研究多智能体潜在推理中的 KV 缓存合并机制,直接提升推理能力。
研究机构
Faculdade de Engenharia (FEUP), Universidade do Porto (UP), Portugal
Escola Superior de Tecnologia e Gestão (ESTG), Politécnico de Viana do Castelo (IPVC), Portugal
论文信息