摘要
提升大语言模型(LLM)代理的推理能力需要有效协调多样的专家模型与工具。然而,现有框架通常仅基于任务与功能的粗粒度匹配调用 API,忽视了功能相似替代方案间的性能差异与成本效率。为此,本文提出 Agora 框架,引入激励相容的拍卖机制,动态将任务分配给专家模型和工具。通过将推理步骤视为可交易物品,Agora 使代理能基于修正后的能力进行竞价,确保关键逻辑路由至最具能力的求解者而非最过度自信者。在五个基准测试中的评估表明,相较于单模型、路由及级联基线,Agora 在候选池相当的情况下显著提升了性能,并通过单一拍卖参数实现了可控的成本 - 质量权衡。
AI 推荐理由
论文核心提出基于拍卖的机制以优化任务分配,直接旨在增强 LLM 代理的推理能力。
研究机构
University of Birmingham
论文信息