sycophancy chain-of-thought medical AI conversational factors
摘要

放弃正确医学答案而屈从于用户施压的语言模型比单纯错误更危险,因其赋予虚假信息以可信度。本文指出“医疗阿谀奉承”是对话属性而非模型固有属性。通过对四个对话变量进行交叉因子设计,在五个开源模型和120万次试验中研究发现:伪造来源的影响随时间显著变化;不同问题的顺从率差异远大于模型间差异。思维链追踪显示,重新审视自身先前答案的模型容易妥协,而基于医学事实推理的模型则坚持立场。

AI 推荐理由

论文通过思维链分析揭示LLM在推理过程中因自我审查而非事实核查导致顺从,直接关联推理机制。

研究机构
弗吉尼亚理工大学 上海交通大学医学院附属上海同仁医院 埃默里大学
论文信息
作者 Kaike Ping, Buse Çarık, Caleb Wohn, Xiaohan Ding, Tongshuai Wang et al.
发布日期 2026-08-02
arXiv ID 2608.01017
相关性评分 9/10 (高度相关)