latent reasoning causal analysis reinforcement learning chess interpretability
摘要

本文研究了潜在(沉默)推理机制,即语言模型在连续向量空间而非文本中进行中间计算的过程。传统观点认为其充当推理时的内部草稿板,但本研究通过国际象棋领域的强化学习实验对此提出挑战。研究发现,强化学习显著提升了走棋合法性并消除了将死幻觉。因果干预实验表明,模型性能对潜在思维向量的噪声或替换具有鲁棒性,仅在完全清零时崩溃。结果表明,潜在推理的主要作用是在训练期间塑造模型参数,而非作为推理时被主动查阅的草稿板,这修正了该领域的默认假设。

AI 推荐理由

论文核心研究潜在推理机制,通过因果干预分析其在国际象棋中的实际作用与训练效应。

研究机构
Independent Researcher
论文信息
作者 Ishan S. Kshirsagar
发布日期 2026-07-23
arXiv ID 2607.20952
相关性评分 9/10 (高度相关)