量化大型推理模型中忠实的置信度表达

可靠的 uncertainty 沟通对 LLM 的可信度至关重要，但忠实校准（FC）仍是主要失效模式。这对大型推理模型（LRMs）尤为关键，因其长思维链常被误读为能力证据。现有方法难以适应 LRMs 输出的复杂结构。本文提出新框架，基于 token 概率、隐藏状态和采样一致性，系统量化 LRMs 的 FC。研究发现，推理行为未自动改善 FC，且现有评估方法存在脆弱性。该工作确立了 FC 作为 LRMs 独立可靠性目标的重要性。