摘要
长程智能体依赖上下文管理系统来压缩和剔除旧令牌,但计划作为早期生成且多步使用的关键信息,往往最先被剔除。本文引入“重放配对”诊断方法,量化计划信号在隐藏状态中的快速衰减,证明标准 LLM 智能体并未将计划内化为持久状态,而是依赖其保留在上下文中。研究还揭示了推理模型中思维链痕迹带来的测量混淆,并提出严格剔除法予以修正。实验表明,简单的计划剔除会显著降低任务成功率,而仅保护计划不足以解决问题,强调上下文管理在智能体架构中的核心承重作用。
AI 推荐理由
论文核心研究上下文管理中的记忆持久性机制,揭示计划信息在上下文中易丢失的问题。
研究机构
Snowflake AI Research
论文信息