摘要
大型语言模型(LLMs)常依赖捷径而非系统性推理,这在医疗应用中引发安全隐患。虽然允许模型在不确定时弃权可提高可靠性,但会引入覆盖率与准确率的权衡。本文提出一种用于多项选择题设置的医疗假设验证两阶段框架,仅在模型弃权时通过目标本体论 grounding 管理这一权衡。实验表明,弃权并非随机,而是反映真实的不确定性。在GPT-5.5和DeepSeek-R1上,该框架将题目级准确率提高9.6个百分点,假设级准确率提高4.2个百分点。研究表明,弃权可被重新用作选择性推理精炼的控制信号,无需显式构建知识图谱即可实现知识图谱级别的性能。
AI 推荐理由
论文核心探讨LLM的推理可靠性,通过选择性推理优化机制解决捷径依赖问题,直接提升逻辑验证能力。
研究机构
Indian Institute of Technology Jammu
SCB Dental College and Hospital, Cuttack
Microsoft Research
论文信息