Multimodal LLM LLM-as-a-Judge Perceptual Bias Reward Modeling Visual Reasoning
摘要

近期多模态大语言模型虽展现出强大的推理能力,但在作为自动评估器时存在关键缺陷:当视觉证据与文本线索冲突时,模型倾向于奖励看似合理而非感知正确的答案。本文将该现象定义为“感知判断偏差”,并通过受控视觉扰动分析发现模型常锚定于文本而忽略视觉感知。为此,我们构建了感知扰动判断数据集,并提出结合结构化 GRPO 奖励与批量排序目标的统一训练框架。实验表明,该方法显著提升了模型的感知保真度、排序一致性及与人类评估的对齐程度。

AI 推荐理由

论文聚焦多模态模型在视觉与文本冲突时的推理偏差,通过奖励建模提升其感知推理的准确性。

研究机构
Graduate School of Artificial Intelligence, KAIST, Republic of Korea
论文信息
作者 Seojeong Park, Jiho Choi, Junyong Kang, Seonho Lee, Jaeyo Shin et al.
发布日期 2026-06-01
arXiv ID 2606.02578
相关性评分 8/10 (高度相关)