认知伴侣：一种用于检测和恢复 LLM 代理推理退化的轻量级并行监控架构

大型语言模型代理在执行多步任务时，常面临推理退化、循环、漂移及停滞等问题。本文提出“认知伴侣”，一种包含基于 LLM 和零开销探针两种实现的并行监控架构。实验表明，基于 LLM 的伴侣显著减少了循环重复，而探针式伴侣在零推理开销下实现了有效的状态检测。研究发现该机制对任务类型敏感，且在小型模型上效果有限。本研究作为可行性验证，证明了子令牌监控在提升代理推理稳定性方面的潜力。