基于置信度动态的推理时优化

推理时优化技术（如重复采样）显著提升了大语言模型的推理能力，但模型不确定性在其中的作用尚未被充分探索。本文研究了推理轨迹中的置信度动态，首次发现正确回答的置信度随时间提升，而错误回答则呈下降趋势。基于此，提出了基于置信度动态增益（CDG）的投票机制，通过整合推理链中置信度的演变来优化答案选择。在多个基准测试上的实验表明，该方法显著优于基线，为提升 LLM 推理性能提供了鲁棒的判别信号，并提供了理论见解。