LLM Verification Uncertainty Estimation Selective Reasoning Medical AI
摘要

大型语言模型(LLMs)常依赖捷径而非系统性推理,这在医疗应用中引发安全隐患。虽然允许模型在不确定时弃权可提高可靠性,但会引入覆盖率与准确率的权衡。本文提出一种用于多项选择题设置的医疗假设验证两阶段框架,仅在模型弃权时通过目标本体论 grounding 管理这一权衡。实验表明,弃权并非随机,而是反映真实的不确定性。在GPT-5.5和DeepSeek-R1上,该框架将题目级准确率提高9.6个百分点,假设级准确率提高4.2个百分点。研究表明,弃权可被重新用作选择性推理精炼的控制信号,无需显式构建知识图谱即可实现知识图谱级别的性能。

AI 推荐理由

论文核心探讨LLM的推理可靠性,通过选择性推理优化机制解决捷径依赖问题,直接提升逻辑验证能力。

研究机构
Indian Institute of Technology Jammu SCB Dental College and Hospital, Cuttack Microsoft Research
论文信息
作者 Uma Ranjan, Kunal Tilaganji, Aditya Koul, Anurag Mahipal, Dashpreet Singh et al.
发布日期 2026-08-11
arXiv ID 2608.10725
相关性评分 9/10 (高度相关)