self-correction multi-agent debate failure analysis LLM pipelines
摘要

多阶段大语言模型流水线(如多智能体辩论、内在自我修正)常表现出准确率 plateau 或逆转等 puzzling 行为。本文提出将下游响应分解为“检测”(是否视上游内容为权威)和“条件生成”两个耦合决策。研究发现,“只检测不修正”是主要失败模式,条件性错误修正率高达 53%-94%。该框架统一解释了多种异常现象,并指出检测阈值是跨方法稳定的模型规律。

AI 推荐理由

论文深入分析多阶段推理流程中的检测与修正机制,揭示推理失败根源。

研究机构
Servicenow
论文信息
作者 Prashanti Nilayam, Kiran Ramanna, Prashil Tumbade
发布日期 2026-05-26
arXiv ID 2605.27559
相关性评分 8/10 (高度相关)