摘要
大型推理模型在复杂任务中表现优异,但在长文本生成中易产生累积性幻觉。现有方法遵循“耦合探索 - 承诺”范式,缺乏对信息选择的细粒度控制。本文提出“探索 - 承诺解耦”范式,将知识探索与最终输出分离,使模型能在具备意识的同时谨慎作答。具体实例化为校准感知生成(CAG)框架,通过增强中间推理的校准可靠性估计并优先选择可靠内容,显著提升事实性。实验表明,该方法在五个基准上将事实性最高提升 13%,解码时间减少 37%。
AI 推荐理由
论文针对长文本生成中的推理幻觉,提出解耦探索与承诺的范式,核心在于提升推理过程的可靠性。
研究机构
State Key Laboratory of Multimedia Information Processing, School of Computer Science, Peking University
Microsoft Research Asia
论文信息