摘要
针对多模态大推理模型（MLRMs）中过渡词易引发幻觉的问题，本文提出潜熵感知解码（LEAD）策略。基于叠加表示理论，该方法利用令牌概率分布构建丰富的语义表示，增强上下文推理能力。其核心在于熵感知的推理模式切换：在高熵状态下采用概率加权连续嵌入，低熵时回归离散令牌嵌入，并结合先验引导的视觉锚点注入策略。实验表明，LEAD 能有效缓解多种基准测试中的模型幻觉问题。
AI 推荐理由
论文提出潜熵感知解码策略，直接优化高熵状态下的上下文推理机制以抑制幻觉。
研究机构
Monash University
Georgia Tech
Cornell University
Northeastern University
Khaliifa University
University of Minnesota
论文信息