Video-MLLM Reinforcement Learning Adaptive Reasoning Reward Shaping
摘要

针对多模态视频推理中强化学习方法依赖僵化推理长度控制策略的问题,本文提出 CARE 框架。该框架通过指数移动平均估算模型能力,动态调整训练阶段,将奖励偏好从探索性长推理转向高效简洁推理。此外,引入批次统计归一化及后验放大器以区分冗余与复杂性,增强困难样本的信号。实验表明,CARE 在提升推理准确率、稳定训练及提高令牌效率方面表现优异,实现了推理预算的自适应分配。

AI 推荐理由

论文核心提出自适应推理长度优化框架,直接针对多模态视频推理中的思维链生成效率与准确性进行改进。

研究机构
School of Information Science and Engineering, Lanzhou University, China School of Computing, National University of Singapore, Singapore
论文信息
作者 Chengwen Liu, Hao Peng, Jisheng Dang, Hong Peng, Bin Hu et al.
发布日期 2026-06-18
arXiv ID 2606.19927
相关性评分 9/10 (高度相关)