摘要
验证 - 修复循环是 LLM Agent 修正代码生成、数学推理及工具使用中错误计划的标准方法。当验证器与修复器均存在噪声时,修复可能破坏原本正确的计划,导致报告接受率上升而真实有效性下降。本文提出 VRR-Stop,一种针对噪声验证 - 修复循环的鲁棒停止框架。该方法通过四参数噪声模型分离验证器的误判与修复器的破坏行为,利用信念过滤将多次验证投票转化为有效性估计,并依据真实边际增益的符号决定停止或继续。此外,结合无需估计的 VRR-Guard 作为 fallback 机制。实验表明,该方法显著提升了最终结果的真实有效性。
AI 推荐理由
论文核心研究 LLM 在数学推理和代码生成中的验证 - 修复循环停止机制,直接提升推理鲁棒性。
研究机构
深信服科技股份有限公司,深圳,中国
信息工程大学网络空间安全学院,河南郑州,中国
论文信息