摘要
强化学习已成为大语言模型后训练的标准范式,延伸至复杂推理与多轮智能体行为。在智能体强化学习中, rollout 阶段调用工具生成长尾且非平稳的工作负载,挑战传统资源管理假设。本文提出 Libra,包含两大核心机制:一是周期性全局资源规划器,通过弹性混合池优化 rollout 与训练集群间的 GPU 分配;二是基于因果信号的多级反馈队列调度器,依据工具返回结果动态路由请求。实验表明,Libra 在 48 块 A800 GPU 上吞吐量提升达 3.0 倍,奖励收敛速度加快 2.5 倍。
AI 推荐理由
论文聚焦 Agent RL 后训练中的资源管理,支持策略演化,间接促进自我进化能力。
研究机构
The Chinese University of Hong Kong
论文信息