Chain-of-Thought Medical VLM Causal Mediation Sycophancy
摘要

医疗视觉语言模型(VLMs)在回答临床问题前会生成思维链(CoT)推理,但其是否因果性地影响预测尚不明确。本文提出 CoT-Mediate 框架,通过扰动模型自发生成推理中的单一临床属性,测量预测是否随编辑后的推理变化。该框架结合双臂协议对比重提示证据与前缀强制延续,并引入来源控制干预以区分推理中介与阿谀行为。在 LLaVA-Med 和 MedGemma 上的评估表明,前缀强制延续比重新提示具有更高的中介忠实度;移除视觉证据会增加对注入推理的依赖。结果表明,推理注入机制显著影响测量的忠实度,且上下文位置而非声明的来源是决定模型是否利用生成推理的主要因素。

AI 推荐理由

论文核心研究思维链(CoT)推理的因果中介效应及真实性,深入探讨推理机制。

研究机构
印度人工智能与机器学习研究所(AIML) 印度理工学院加尔各答分校,计算机科学学院 印度 印度理工学院加尔各答分校,计算机科学与商业系统系 印度遗产研究所 印度理工学院克勒格布尔分校,计算机科学与工程学院 印度信息科技研究所,卡利亚尼
论文信息
作者 Supratik Bhowal, Subhrajyoti Basu, Aritra Gir Mahanta, Anik Pal Chowdhury
发布日期 2026-07-29
arXiv ID 2607.27304
相关性评分 9/10 (高度相关)