前缀安全贝叶斯信念追踪用于 LLM 推理可靠性：将校准与排序分离

本文研究了在最终答案未知前对长推理轨迹进行可靠性估计的问题，提出利用前缀安全观测进行条件成功概率估算。通过序列贝叶斯信念追踪（SBBT）校准观测似然并递归更新双状态信念，该框架统一处理标量分数、文本及自验证标记等多种证据。实验表明，仅基于分数的 SBBT 能优化概率校准（Brier 分数），而提升排序能力（AUROC）则需依赖结构感知证据。研究揭示了标量分数主要支持概率质量，而结构感知信号在强基线未吸收证据时才显著改善排序的理论机制。