摘要
大语言模型通过思维链(CoT)推理展现出强大的推理能力,但常生成冗余路径导致高昂成本。现有自一致性方法虽提升准确率,却需多次采样带来巨大计算开销。本文提出一种置信感知决策框架,通过分析单条推理轨迹,自适应选择单路径或多路径推理模式。该框架利用 MedQA 数据集的中间状态特征训练,无需微调即可泛化至多个领域。实验表明,该方法在保持与多路径基线相当准确率的同时,减少了高达 80% 的 token 消耗,实现了精度与效率的有效平衡。
AI 推荐理由
论文核心研究基于置信度的思维链推理优化,直接提升推理效率与准确性。
研究机构
范德比尔特大学
范德比尔特大学医学中心
Intuit AI Research
论文信息