摘要
长程大语言模型智能体常因过早锁定证据解读而静默失败,即“过早承诺”。本文定义“表征承诺”为固定推理步长的跨运行隐藏状态收敛,以此作为轨迹一致性的早期诊断指标。实验表明,隐藏态相似度可预测行为一致性而非正确性。基于此开发的运行时监测器能有效检测不一致轨迹,提示干预显著降低了行为方差。该研究揭示了推理过程中的隐蔽失效模式,提供了明确的诊断工具而非通用的准确率提升手段。
AI 推荐理由
论文核心研究 LLM Agent 推理过程中的过早承诺现象,提出基于隐藏状态的诊断机制。
研究机构
Snowflake AI Research
论文信息