Reinforcement Learning Tool Use Credit Assignment Self-Distillation Agent Training
摘要

长程工具使用强化学习虽能从结果验证中学习,但其轨迹级优势分散于众多推理与 API 令牌中。现有自蒸馏方法若直接应用于令牌级,可能因无法区分 verifier 奖励的具体动作而破坏工具使用能力。本文提出兄弟引导信用蒸馏(SGCD),利用动态采样生成的成功与失败兄弟轨迹,通过外部 LLM 对比总结生成仅用于训练的步骤级信用参考。该方法通过密集的教师/学生差异驱动信用重分配,并重塑 GRPO 令牌优势,显著提升了 AppWorld 和$\tau^3$-airline 基准上的工具使用性能,且部署时无需外部模型介入。

AI 推荐理由

论文核心解决长程工具使用中的信用分配问题,直接提升 Agent 的技能学习与 API 调用能力。

研究机构
Amazon Web Services
论文信息
作者 Tianyu Ding, Jianhong Xin, Juan Pablo De la Cruz Weinstein
发布日期 2026-06-10
arXiv ID 2606.12634
相关性评分 9/10 (高度相关)