摘要
大语言模型常通过推理时搜索候选方案来支持科学发现。现有自适应控制器仅依据分数进步分配信用,忽视了提示长度、重试等导致的令牌成本差异。本文证明,在预算固定且成本发散时,忽略成本的信用分配将导致质量严重损失。为此,我们提出 CostAda,一种基于“成本校准前沿效用”的自适应控制器。该机制根据实际动作成本和剩余预算评估前沿进展,动态调控局部探索强度、前沿分配及战术干预,使成本成为塑造搜索过程的核心变量而非单纯记账指标。
AI 推荐理由
论文核心研究在预算约束下的搜索策略与资源分配,属于典型的任务规划与控制问题。
研究机构
City University of Hong Kong
Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)
International Digital Economy Academy (IDEA)
论文信息