叠加态的幻觉？语言模型中潜在思维的原理性分析

连续思维链（Latent CoT）作为离散推理的替代方案，被认为能通过“叠加态”在单一表示中维持多个候选解。本文在三种设定下探究该假设：无训练组合嵌入、微调适应及从头训练。利用 Logit Lens 和实体级探测分析内部表征，发现仅从头训练的模型展现出叠加态迹象；而在其他设定中，叠加态往往坍塌或被捷径解取代。研究指出，预训练偏差与模型容量是导致此现象的关键因素，统一解释了连续推理中叠加态的产生与坍塌条件。