Latent Reasoning Causal Intervention Interpretability Geometric Analysis
摘要

潜在推理模型(LRMs)用连续思维取代了显式思维链。近期研究将可观测的潜在状态模式视为内部推理机制的证据。本文通过对比实验与因果干预发现,这些模式在无特定结构的对照组中同样存在,且不一定对行为产生因果影响。研究表明,潜在思维的利用是分级而非二元的,其因果效应集中在低秩方向上。结论指出,潜在思维应被视为隐藏计算而非隐藏解释,仅凭可解码性或静态结构无法确立机制,LRM 的可解释性研究需结合匹配对照与因果测试。

AI 推荐理由

论文核心分析潜在推理模型的内部机制,通过因果干预评估其推理过程的有效性。

研究机构
Université Grenoble Alpes, CNRS, Grenoble INP, LIG Université Paris-Saclay NAVER LABS Europe
论文信息
作者 Darpan Aswal, Thomas Palmeira Ferraz, Yongxin Zhou, Maxime Peyrard
发布日期 2026-06-10
arXiv ID 2606.12689
相关性评分 9/10 (高度相关)