摘要
许多视觉请求需要推理而非简单的类别匹配。现有视觉语言模型(VLM)常出现“看对说错”的绑定失败。本文提出 HKVLM,将定位从语言生成路径中解耦:利用冻结的检测器生成区域提议,冻结的语言模型编码推理指令,并通过轻量级对齐钩子在共享嵌入空间中将二者绑定。该方法引入感知基础的忠实性否决机制以抑制幻觉。实验表明,仅训练钩子即可显著提升 grounding 准确率并大幅降低幻觉率,证实剩余误差主要源于感知而非绑定。
AI 推荐理由
论文核心解决视觉语言模型中的推理与定位绑定失败问题,提出新架构以实现忠实推理。
研究机构
Auckland University of Technology
论文信息