摘要
并行测试时扩展通过采样多条推理轨迹并进行多数投票来提升大模型准确率,但需运行至完成导致计算开销巨大。本文提出 MARS,一种边际对抗停止规则,通过在中间检查点探测部分轨迹,估算哪些活跃轨迹可能改变答案,并在领先答案处于安全边界时提前停止。该方法分离了两种不确定性来源,学习轨迹级切换概率,并通过对抗边界处理切换轨迹的最终去向。实验表明,MARS 在保持全预算基线准确率的同时,显著节省了自一致性 token 消耗。
AI 推荐理由
论文核心针对推理任务的测试时扩展,通过优化采样策略提升推理效率与准确率。
研究机构
Amazon
Stanford University
University of Pennsylvania
论文信息