Chain-of-Thought Self-Consistency Efficiency Uncertainty Estimation
摘要

大语言模型通过思维链(CoT)推理展现出强大的推理能力,但常生成冗余路径导致高昂成本。现有自一致性方法虽提升准确率,却需多次采样带来巨大计算开销。本文提出一种置信感知决策框架,通过分析单条推理轨迹,自适应选择单路径或多路径推理模式。该框架利用 MedQA 数据集的中间状态特征训练,无需微调即可泛化至多个领域。实验表明,该方法在保持与多路径基线相当准确率的同时,减少了高达 80% 的 token 消耗,实现了精度与效率的有效平衡。

AI 推荐理由

论文核心研究基于置信度的思维链推理优化,直接提升推理效率与准确性。

研究机构
范德比尔特大学 范德比尔特大学医学中心 Intuit AI Research
论文信息
作者 Juming Xiong, Kevin Guo, Congning Ni, Chao Yan, Katherine Brown et al.
发布日期 2026-03-09
arXiv ID 2603.08999
相关性评分 9/10 (高度相关)