Causal Reasoning Process Supervision Scratchpad Interpretability
摘要

过程监督的核心希望在于模型能暴露影响后续行为的中间变量。为确保对齐,思维链中的写入状态必须真正参与计算。本文通过可控的状态跟踪任务,对比仅报告最终状态与先写中间状态的模型。评估时,编辑内部状态表示而保持可见文本不变。结果显示,状态写入模型能依据编辑后的状态正确预测后续结果,而基线模型不能。这表明思维链监督的目标不仅是使推理可见,更要训练模型真正利用写入状态进行计算。

AI 推荐理由

论文核心研究思维链(Scratchpad)中中间状态与后续计算的因果一致性,直接关乎推理机制的有效性。

研究机构
Institute for Computational and Mathematical Engineering, Stanford University
论文信息
作者 Benjamin Shih, John Winnicki, Eric Darve
发布日期 2026-06-28
arXiv ID 2606.29522
相关性评分 9/10 (高度相关)