摘要
针对大语言模型智能体,监督微调不仅依赖标签质量,更取决于其所在的交互上下文。纯行为克隆使用完整教师演示,导致训练与测试时的上下文分布不匹配。本文将对齐策略下的数据构建视为预算分配问题,探讨在资源受限下如何最优分配教师输出。通过在 HotpotQA、ALFWorld 等基准上的实验,发现相较于长序列或经过严格筛选的教师完成项,在学习者诱导的上下文中提供少量未过滤的教师续步,能以更低成本显著提升性能,是更高效的监督分配策略。
AI 推荐理由
论文核心研究 Agent 后训练中的数据增强策略,通过优化教师监督分配实现自我改进。
研究机构
Stanford University
New York University
论文信息