摘要
本文提出 CAROL，一种用于大语言模型测试时减少幻觉的概率框架。该方法不依赖令牌级不确定性，而是基于生成响应与可信上下文的一致性定义语义不确定性度量，在文本序列格上诱导字符串次模目标。此公式将幻觉缓解转化为具有可证明收敛性和近最优保证的马尔可夫链接受 - 拒绝过程，使模型能迭代优化输出以实现语义一致。实验表明，CAROL 在问答和多智能体推理基准上显著减少幻觉，提升可靠性与可解释性，同时保持竞争力的计算效率。
AI 推荐理由
论文聚焦减少幻觉以提升语义一致性，涉及逻辑与常识推理的可靠性，属推理能力关键部分。
研究机构
Department of Mechanical and Aerospace Engineering, University of California Irvine, Irvine, CA 92617-4322, USA
T-6 Los Alamos National Laboratory
C-1 Los Alamos National Laboratory
论文信息