摘要
本文研究了强化学习(RL)微调如何重塑语言模型内部表征以启用工具使用等代理行为。尽管 RL 显著提升了结构化工具调用生成,但其机械基础尚不明确。我们提出专用特征跨编码器(DFC),在 Qwen2.5-3B 中隔离出一组紧凑的 RL 特定特征以介导工具调用能力。实验表明,DFC 不仅提升了 RL 模型的工具正确率,还将工具调用能力被动迁移至冻结基座模型,实现了无需重训练的行为控制。
AI 推荐理由
论文核心研究 RL 诱导的工具使用机制,通过特征定位实现技能控制,属技能学习核心。
研究机构
Northwestern University
论文信息