Knowledge Distillation Multi-Agent Systems Reasoning Enhancement Efficient Inference
摘要

针对多智能体系统虽具卓越推理性能但存在高计算成本与误差传播问题,本文提出 AgentArk 框架。该框架通过将多智能体动态蒸馏至单模型权重中,把显式的测试时交互转化为隐式的模型能力。研究探讨了三种分层蒸馏策略:推理增强微调、轨迹增强及过程感知蒸馏。实验表明,蒸馏后的单智能体在保持计算高效的同时,具备了多智能体的强推理与自纠错性能,并在多样化推理任务中展现出更强的鲁棒性与泛化能力。

AI 推荐理由

论文核心是通过蒸馏多智能体辩论机制,显著提升单模型的推理与自纠错能力。

研究机构
卡内基梅隆大学 威廉与玛丽学院 乔治亚理工学院 不列颠哥伦比亚大学
论文信息
作者 Yinyi Luo, Yiqiao Jin, Weichen Yu, Mengqi Zhang, Srijan Kumar et al.
发布日期 2026-02-03
arXiv ID 2602.03955
相关性评分 9/10 (高度相关)