Masked Diffusion Models Fact Verification Reasoning vs Rationalization Chain-of-Thought
摘要

本文研究了掩码扩散语言模型(MDLM)在事实验证任务中的推理动态,探讨其生成的论证是真实推理还是事后合理化。研究发现,MDLM 通常在扩散过程早期即确定结论,将其作为全局锚点,随后生成的论证若包含噪声反而会干扰初始正确判断。强制“先推理后结论”的策略导致准确率显著下降,干预实验表明模型常对错误结论进行合理化,且结论高度依赖论证质量。结果表明,对于 MDLM,过度 deliberation 可能因引入噪声而稀释早期准确预测。

AI 推荐理由

核心研究掩码扩散模型中的推理机制,探讨 justification 是真实推理还是事后合理化。

研究机构
德克萨斯大学阿灵顿分校
论文信息
作者 Jacob Devasier
发布日期 2026-03-01
arXiv ID 2603.01190
相关性评分 9/10 (高度相关)