EntroCut：面向小型大推理模型高效思维链推理的熵引导自适应截断

大型推理模型（LRMs）虽擅长复杂推理任务，但其依赖冗长的中间步骤导致计算成本高昂。本文发现，早期推理步骤中模型输出分布的熵能可靠区分正确与错误的推理路径。据此，我们提出 EntroCut，这是一种无需训练的方法，通过识别高置信度状态动态截断推理过程，从而安全终止生成。为全面评估效率与准确性的权衡，我们引入了效率 - 性能比（EPR）这一统一指标。在四个基准测试上的实验表明，EntroCut 在几乎不牺牲准确性的前提下，将令牌使用量减少了高达 40%，实现了优于现有无训练方法的效率 - 性能平衡。