摘要
语言模型常生成长思维链轨迹,但其必要性尚不明确。本文通过“过完备推理轨迹”视角,定义保留最终答案所需的最小步骤子集为“最小核心”,并提出压缩率等度量指标。在六个推理基准测试中发现,平均 46% 的步骤可移除且保持 86% 的答案准确率。最小核心不仅揭示了推理支持的高度集中性,还展现了更清晰的表示几何结构,显著提升了正误轨迹分离度并降低了内在维度。理论分析进一步证明了最小子集的存在性及贪婪消除的局部不可约性。
AI 推荐理由
论文核心研究思维链轨迹的冗余性与最小核心,直接揭示推理机制的几何特性。
研究机构
University of Maryland, College Park, USA
论文信息