Multimodal Reasoning Inductive Bias RLVR Consistency
摘要

归纳偏置通过编码任务结构引导学习走向可泛化的解。本文指出多模态大语言模型(MLLMs)缺失关键的“跨视图一致性”偏置,即同一实例的语义不变视图应产生相同答案。针对标准强化学习(RLVR)仅对单点输入奖励的局限,作者提出 ConsistRoll 方法。该方法利用 GRPO 的组采样机制,将原始视图与变换视图置于同一生成组,仅当两者回答均正确且一致时赋予联合奖励。理论证明该一致性为有效归纳偏置,能惩罚视图依赖性并缓解优势坍塌。实验表明,该方法在数学、通用及幻觉检测基准上显著提升了多模态推理的鲁棒性。

AI 推荐理由

论文核心提出跨视图一致性归纳偏置,旨在显著提升多模态模型的推理鲁棒性。

研究机构
HKUST (GZ) HKUST OPPO AI Center UIC
论文信息
作者 Xin Zou, Haolin Deng, Yibo Yan, Shuliang Liu, Kening Zheng et al.
发布日期 2026-06-29
arXiv ID 2606.29812
相关性评分 9/10 (高度相关)