摘要
大型语言模型在长文本生成中常产生幻觉。现有方法多依赖事后修正或基于正确性的强化学习,未能教会模型评估生成内容的可靠性。为此,本文提出 CURE 框架,通过在声明级别教授 LLM 推理不确定性来提升事实性。该框架引入“感知声明的推理协议”,将输出结构化为原子声明并配对显式置信度估计;随后开发多阶段训练流程,对齐置信度与正确性并优化事实性。实验表明,CURE 在多个基准上显著提升了事实准确性及校准能力,同时支持选择性预测以规避不确定声明。
AI 推荐理由
论文核心提出让 LLM 在声明级别进行不确定性推理,通过推理校准提升事实性。
研究机构
Computer Science and Engineering, University of Michigan, Ann Arbor, MI, USA
论文信息