Chain-of-Thought Reasoning Efficiency Token Compression Information Theory
摘要

思维链(CoT)提示虽提升了大语言模型的推理能力,但常因过度推理导致计算成本高昂。现有评估器难以识别有效却冗余的推理步骤。为此,本文引入 RIV-GSM8K 诊断基准,揭示当前评估器的盲区,并提出基于信息理论的无训练指标 CAID 以识别低效用步骤。结合后验压缩策略 PACE,实验表明该方法在 GSM8K 等数据集上可减少 31%-53% 的 token 消耗,同时保持准确率,有效去除了推理链中的信息泡沫。

AI 推荐理由

论文核心研究思维链(CoT)推理中的低效问题,提出诊断基准与压缩策略,直接优化推理过程。

研究机构
KT Corporation Pohang University of Science and Technology
论文信息
作者 Daeyeop Lee, Hwanjo Yu
发布日期 2026-07-13
arXiv ID 2607.11266
相关性评分 9/10 (高度相关)