摘要
本文针对多领域强化学习验证奖励(RLVR)中训练课程固定的问题,提出迁移感知课程(TAC)。该方法利用带通机制在线优先选择能广泛惠及其余领域的训练域,通过梯度几何对齐估算跨域迁移性。在六个推理领域的实验中,TAC 在 Qwen3 和 Llama3.2 模型上均取得最佳宏观平均准确率,显著优于随机采样及仅基于可学习性的基线,证明了跨域迁移性是优化多领域推理训练的关键信号。
AI 推荐理由
论文核心研究多领域推理中的课程设计与迁移能力,直接提升 LLM 推理性能。
研究机构
Jinesis Lab, University of Toronto & Vector Institute
Carnegie Mellon University
Princeton University
University of Illinois Urbana-Champaign
Max Planck Institute for Intelligent Systems
EHL Institute Tübingen
EuroSafeAI
论文信息