摘要
针对现有推理时计算扩展方法均匀分配资源的问题,本文提出 TrACE,一种无需训练的自适应控制器。该方法通过测量多次采样轨迹间的动作一致性来动态分配计算预算:高一致性表明决策简单,直接提交;低一致性表明不确定,增加采样次数直至达成共识。在 GSM8K 和 MiniHouse 基准测试中,TrACE 在保持与固定预算自一致性方法相同准确率的同时,减少了 33% 至 65% 的模型调用次数。研究证实,模型输出的一致性可有效编码任务难度,是实现高效自适应推理的关键信号。
AI 推荐理由
提出基于一致性信号的自适应计算机制,显著提升多步推理任务的效率与可靠性。
研究机构
斯坦福大学
论文信息