Chain-of-Thought Entropy Dynamics Early Exit Change-Point Detection
摘要

本文研究了思维链(CoT)推理中的熵动态,发现其具有一致的两阶段结构:从探索性的“不确定性区域”急剧过渡到收敛的“置信区域”。研究表明置信区域具有高可靠性和高冗余性两大特征。据此,作者提出了利用早期退出机制和安全终止计算,以及利用测试时缩放优先处理收敛轨迹的策略。通过将置信区域检测建模为序列变点检测问题,并首次应用累积和(CUSUM)算法,构建了一个无需训练的实时推理控制框架。实验证明该方法在早期退出和投票策略上均优于现有基线。

AI 推荐理由

论文深入分析思维链推理的熵动态机制,提出基于统计检测的推理控制框架,属核心研究。

研究机构
The Chinese University of Hong Kong
论文信息
作者 Ting Xu, Xu He, Yupu Lu, Jiankai Sun, Dong Li et al.
发布日期 2026-06-01
arXiv ID 2606.02020
相关性评分 9/10 (高度相关)