摘要
部署 LLM 智能体通常需要在测试时使用紧凑的学生模型,即使训练阶段有更强的教师模型可用。本文研究“知识酿造”:将教师的交互经验蒸馏为学生模型的持久外部记忆。该方法无需权重更新、专家演示、真实标签或测试时教师访问。针对环境反馈稀疏及教师笔记需适配弱学生执行粒度的挑战,提出 AgentBrew 框架。其包含失败触发的教师循环以转化失败为有效笔记,以及面向学生的合成机制以生成可操作指导。实验表明该范式能显著提升弱智能体能力。
AI 推荐理由
论文核心提出将教师经验蒸馏为持久外部记忆,无需权重更新,属记忆机制研究。
研究机构
香港大学
论文信息