摘要
多阶段大语言模型流水线(如多智能体辩论、内在自我修正)常表现出准确率 plateau 或逆转等 puzzling 行为。本文提出将下游响应分解为“检测”(是否视上游内容为权威)和“条件生成”两个耦合决策。研究发现,“只检测不修正”是主要失败模式,条件性错误修正率高达 53%-94%。该框架统一解释了多种异常现象,并指出检测阈值是跨方法稳定的模型规律。
AI 推荐理由
论文深入分析多阶段推理流程中的检测与修正机制,揭示推理失败根源。
研究机构
Servicenow
论文信息