Test-Time Compute Uncertainty Estimation Reasoning Efficiency Budget Allocation
摘要

多次采样可提升语言模型推理能力,但均匀计算分配效率低下:简单问题过采样而难题探索不足。本文提出不确定性感知预算分配(UAB),一种凹整数优化框架,利用无额外推理成本估算的每问不确定性重新分配固定采样预算。第一阶段每问生成一次,以平均负对数似然为难度信号;第二阶段通过边际贪婪算法精确求解凹覆盖最大化代理问题,向不确定问题倾斜预算。在六个模型及五个推理基准上的实验表明,UAB 显著优于基线,尤其在低资源场景下表现突出。

AI 推荐理由

论文核心提出基于不确定性的预算分配框架,直接优化测试时推理效率与准确率。

研究机构
Applied Artificial Intelligence Initiative, Deakin University, Australia
论文信息
作者 Manh Nguyen, Sunil Gupta, Hung Le
发布日期 2026-05-26
arXiv ID 2605.26849
相关性评分 9/10 (高度相关)