摘要
大型语言模型常通过采样多条思维链轨迹并结合多数投票(自洽性)来提升推理任务准确率。研究发现,截断并重新生成思维链时,正确答案的轨迹比错误答案更易复现原结果。利用这一差异提出的“前缀一致性”作为可靠性信号,无需访问令牌对数概率或自评提示即可加权候选答案。在五个推理模型及四个数理基准测试中,该方法成为多数场景下最佳的正确率预测器,并以少至 21 倍(中位数 4.6 倍)的 token 消耗达到标准多数投票的精度 plateau。
AI 推荐理由
论文提出前缀一致性方法,显著提升思维链推理的可靠性与效率,核心聚焦推理机制。
研究机构
Nagoya University
Nara Institute of Science and Technology
Mohamed bin Zayed University of Artificial Intelligence
论文信息