摘要
语言模型的“推理”（如思维链）虽能提升性能，但其底层动态尚不明确。本文通过不确定性量化视角，将推理轨迹视为演化状态，提取不确定性特征剖面。实验表明，该剖面能高精度预测答案正确性，且仅需前几百个令牌即可早期检测错误。研究发现正确与错误轨迹具有显著不同的不确定性下降模式，为理解生成式推理提供了基于决策理论的原则性视角。
AI 推荐理由
论文核心研究思维链推理过程中的不确定性动态，直接揭示推理机制。
研究机构
Data Science Section, IT University of Copenhagen
MaiNLP Center for Information and Language Processing, LMU Munich
Department of Applied Mathematics and Computer Science, Technical University of Denmark
Pioneer Centre for Artificial Intelligence, MCMC
论文信息