Reinforcement Learning Data Sampling Post-training Reasoning
摘要

强化学习已成为激发大语言模型推理能力的核心后训练范式,但均匀的任务采样忽略了不同任务对优化的响应差异。现有方法多依赖当前通过率等快照信号评估可解性,却忽视了任务对持续训练的潜在增益(即可学习性)。本文提出TrajVal,一种基于轻量级探测的估计器,用于在训练前近似任务的每任务可学习性。实验表明,该静态先验能显著提升数学和逻辑推理基准测试中的数据效率,并与在线调度方法产生互补增益。

AI 推荐理由

论文聚焦于通过RL提升LLM在数学和逻辑推理任务上的能力,核心在于优化推理训练的数据采样策略。

研究机构
Sun Yat-sen University Alibaba Group
论文信息
作者 Ting Zhou, Zhenqing Ling, Daoyuan Chen, Qianli Shen, Yilun Huang et al.
发布日期 2026-08-10
arXiv ID 2608.09217
相关性评分 9/10 (高度相关)