摘要
本文研究了策略内自蒸馏在复杂智能体任务中的局限性。作者发现模型依赖重复的输出模板导致“解码崩溃”，且自教师信号存在不一致性。通过分析模型与提示的不一致性根源，提出引入指数移动平均（EMA）教师以稳定监督信号。尽管需要预热阶段，该方法最终显著提升了模型性能，为智能体自我进化提供了新视角。
AI 推荐理由
论文核心研究基于自蒸馏的 Agent 自我改进机制，解决训练不稳定问题。
研究机构
Chapman University, Orange, CA, USA
Lawrence Berkeley National Laboratory, Berkeley, CA, USA
论文信息