摘要
并行推理增强了大型推理模型(LRMs)的能力,但因早期错误导致的无效路径而产生高昂成本。前缀级路径剪枝至关重要,但现有研究缺乏统一框架。本文提出了首个系统的路径剪枝分类法,按信号源和可学习性划分方法,揭示了可学习内部方法的潜力,并提出 STOP 方法。实验表明,STOP 在不同参数规模的 LRM 上均优于基线,且在固定计算预算下显著提升了 AIME25 等基准的准确率。最后,文章总结了部署指南。
AI 推荐理由
论文核心研究大型推理模型中的并行推理路径剪枝机制,直接提升推理效率与准确率。
研究机构
The Chinese University of Hong Kong
Shenzhen Loop Area Institute
USTB
DualityRL
论文信息