Agent Post-Training Data Augmentation Cost-Efficiency On-Policy Learning
摘要

针对大语言模型智能体,监督微调不仅依赖标签质量,更取决于其所在的交互上下文。纯行为克隆使用完整教师演示,导致训练与测试时的上下文分布不匹配。本文将对齐策略下的数据构建视为预算分配问题,探讨在资源受限下如何最优分配教师输出。通过在 HotpotQA、ALFWorld 等基准上的实验,发现相较于长序列或经过严格筛选的教师完成项,在学习者诱导的上下文中提供少量未过滤的教师续步,能以更低成本显著提升性能,是更高效的监督分配策略。

AI 推荐理由

论文核心研究 Agent 后训练中的数据增强策略,通过优化教师监督分配实现自我改进。

研究机构
Stanford University New York University
论文信息
作者 Junze Ye, Jiayi Cheng, Miao Lu, Michal Mankowski, Jose Blanchet et al.
发布日期 2026-07-06
arXiv ID 2607.04574
相关性评分 9/10 (高度相关)