VLM Self-Reflection Visual Grounding Hallucination
摘要

视觉语言模型(VLM)在推理时常生成“让我再检查一下图像”等自我反思语句。本文通过 VisualSwap 框架探究这些语句是否触发真实的视觉重检,抑或是习得的文本模式。研究构建了包含 800 对图像的 VS-Bench 数据集,实验发现主流模型普遍无法察觉图像替换,准确率下降高达 60%。反直觉的是,思维链模型比指令模型更脆弱。注意力分析表明,用户指令能提升视觉关注,而自生成的反思不能。结论指出当前 VLM 倾向于“说”而非真正“看”。

AI 推荐理由

论文深入探究 VLM 在推理过程中的自我反思机制真实性,揭示其视觉重检的幻觉问题。

研究机构
University of California San Diego University of Illinois Urbana-Champaign
论文信息
作者 Chufan Shi, Cheng Yang, Yaokang Wu, Linhao Jin, Bo Shui et al.
发布日期 2026-05-15
arXiv ID 2605.15864
相关性评分 8/10 (高度相关)