摘要
大语言模型通过强化学习后训练获得了卓越的推理能力，但现有方法常依赖均匀数据采样，忽视了数据结构与策略能力的动态变化。为此，本文提出自适应数据调度（ADS）框架，在语义簇层面维持自适应分布以巩固训练进度，并在样本层面持续采样策略边界样本以提供信息优势。实验表明，ADS 在三个模型和七个推理基准上平均准确率提升 5.2%，且适用于不同目标设计的 RL 方法，是一种通用的数据调度策略。
AI 推荐理由
论文核心是通过自适应数据调度优化 RL 后训练，直接显著提升 LLM 在多个基准上的推理能力。
研究机构
Rice University
University of North Carolina at Charlotte
University of Haifa
论文信息