摘要
现有令牌级提取压缩器因破坏动作语法而不适用于 LLM Agent。本文提出 AGORA,一种免推理的步级压缩器,结合结构提示解析器、格式与近期内容保留底线及轻量级相关性评分器。该方法在几乎所有测试场景中保留了未压缩性能的大部分,并通过结构化底线和自适应评分实现了高效压缩,解决了通用压缩器移除关键动作令牌导致环境拒绝的问题。
AI 推荐理由
论文核心解决 Agent 上下文记忆压缩问题,提出保留动作语义的机制。
研究机构
AI Agent Technologies (Hong Kong) Limited
Department of Mechanical Engineering, The University of Hong Kong
论文信息