摘要
本文指出医疗视觉问答中广泛采用的自我验证机制存在根本性不可靠问题。作者提出诊断框架,将验证行为分解为判别能力与一致性偏差,揭示了“验证幻象”现象:由于验证者与生成者能力耦合,导致高错误率下仍出现高一致性,错误答案被虚假接受。实验表明,知识密集型任务最易陷入此幻象,且验证者在多轮交互中会锁定初始错误。研究还发现验证者对图像证据关注不足(懒惰验证者),交叉验证仅能部分缓解该问题。
AI 推荐理由
论文核心研究 VLM 的自我验证推理机制,分析其可靠性边界与逻辑缺陷。
研究机构
The University of British Columbia
Vector Institute
Redmin University of China
论文信息