摘要
测试时推理虽被广泛应用,但额外推理并非总是有益,可能修复错误也可能引入有害变更。本文将其视为部署分配问题,提出 SeVRA,一种服务层控制器,用于决定保留初始答案或激活验证。实验表明,选择性验证在降低计算成本和有害翻转率的同时提升了准确率。然而研究发现,单纯增加初始推理预算往往能更高效地达到同等效果。最终建议优先调整初始预算,仅在需审计或风险控制时使用选择性恢复。
AI 推荐理由
论文核心研究测试时推理的资源分配与验证机制,直接优化推理过程。
研究机构
Department of Computer Science, Virginia Tech
FrBRI Biomedical Research Institute, Virginia Tech
FBRI Cancer Research Center, Washington, DC
论文信息