摘要
本文研究了链式代理(CoA)框架中用于长上下文推理的分块排序问题。CoA 通过有界共享记忆顺序处理分块,但引入了信息瓶颈,导致结果依赖于处理顺序。我们利用 Chow-Liu 树学习依赖结构以优先处理强相关分块。实验表明,对该树进行广度优先遍历生成的排序策略,在三个长上下文基准测试中,相比默认文档顺序和基于语义分数的顺序,显著减少了代理间的信息损失,并在答案相关性和精确匹配准确率上表现更优。
AI 推荐理由
论文核心研究长上下文推理中的分块排序问题,通过优化依赖结构提升推理准确性。
研究机构
Microsoft
论文信息