基于进化上下文示例的自适应测试时计算资源分配

虽然扩展测试时计算量能显著提升模型性能，但现有方法多依赖静态分配或固定生成分布。本文提出一种测试时计算分配框架，联合优化计算资源投放位置与生成策略。该方法首先通过预热阶段识别简单查询并构建初始问答池；随后在自适应阶段，将额外计算集中于未解决查询，并通过进化的上下文示例重塑其生成分布，即利用语义相关查询的成功响应作为条件，而非从固定分布中重采样。实验表明，该方法在数学、编程和推理基准上均优于现有基线，且大幅降低了推理时的计算消耗。