摘要
测试时扩展(Test-time scaling)通过生成和聚合多个候选答案来提升大语言模型(LLM)的推理能力,但现有流程常对难易不同的提示词使用固定的计算预算,缺乏可解释性。本文提出一种基于轻量级模糊控制器的自适应测试时扩展方法,将估计的提示词复杂度和模型置信度等可解释信号映射为每个查询的采样预算。该方法对简单或高置信度的提示分配较少样本,对困难或低置信度的提示分配较多样本,使推理时的计算资源分配透明化。实验表明,该方法在问答和数学推理任务上优于多种基线,有效减少了平均采样数同时保持高性能。
AI 推荐理由
论文聚焦于通过自适应采样优化LLM在测试时的推理效率与准确性,直接针对推理能力的增强机制。
研究机构
Iowa State University
论文信息