摘要
针对 LLM 幻觉问题，本文提出 SEVA，一种能输出证据对齐、推理链及错误诊断的结构化验证代理。为解决多组件输出的强化学习训练难题，作者设计了过程奖励机制，将验证质量分解为独立分量以恢复梯度。该机制支持“验证 - 反思 - 探测 - 优化”的自进化循环。实验表明，该循环使模型在特定基准上成为专家而非通才，且小模型性能可媲美 GPT-4o-mini，证实了奖励粒度需匹配输出粒度的原则。
AI 推荐理由
论文提出自进化验证代理，核心贡献在于通过过程奖励驱动的自我改进循环。
研究机构
University of Southern California, Los Angeles, USA
University of Michigan, Ann Arbor, USA
论文信息