摘要
本文研究了潜在(沉默)推理机制,即语言模型在连续向量空间而非文本中进行中间计算的过程。传统观点认为其充当推理时的内部草稿板,但本研究通过国际象棋领域的强化学习实验对此提出挑战。研究发现,强化学习显著提升了走棋合法性并消除了将死幻觉。因果干预实验表明,模型性能对潜在思维向量的噪声或替换具有鲁棒性,仅在完全清零时崩溃。结果表明,潜在推理的主要作用是在训练期间塑造模型参数,而非作为推理时被主动查阅的草稿板,这修正了该领域的默认假设。
AI 推荐理由
论文核心研究潜在推理机制,通过因果干预分析其在国际象棋中的实际作用与训练效应。
研究机构
Independent Researcher
论文信息