摘要
本文指出,通过线性探测和引导恢复提取模型潜在知识的标准方法,会系统性高估视觉语言模型(VLM)在图像中的实际 grounding 能力。以空间推理为例,作者提出一种简单的因果控制方法(用灰图替换图像),揭示了探测法无法发现的错误。研究发现 VLM 存在三种 grounding 机制:真实感知、先验替代及符号反转。该分类在多个模型家族中具有一致性,且提出了无需训练或低秩编辑的修正策略。文章主张将此仲裁器作为 VLM 潜在知识研究的默认对照实验。
AI 推荐理由
论文核心研究 VLM 的空间推理能力,提出新评估方法区分真实感知与先验。
研究机构
University of New South Wales
National University of Singapore
论文信息