大型语言模型推理时具有有效事实性控制的共形推理

大型语言模型在执行多步推理时，中间主张构成隐式有向无环图，其节点正确性依赖于祖先节点，导致事实性不确定性具有结构性。针对现有共形预测方法仅限事后处理而无法干预生成过程的问题，本文提出推理时共形推理（ITCR）框架。该框架将共形预测直接集成到推理图生成中，学习结构级事实性不确定性函数，并基于图级不确定性设计非一致性分数以校准停止生成的阈值。理论证明该方法具有嵌套性并提供有效的事实性覆盖保证，实验表明其生成的推理图比事后剪枝更准确。