工具模式压缩实现受限上下文预算下的代理 RAG

针对代理 RAG 系统中工具定义占用大量上下文窗口导致资源冲突的问题，本文首次系统研究了工具与上下文的权衡。通过提出保守型工具模式压缩（TSCG）方法，在 8K 令牌极限下将原本溢出的工具定义压缩，使精确匹配率平均提升 20.5%，恢复了 RAG 功能。实验涵盖 14 种模型及 6500 多次 API 调用，证实该技术在受限部署中是必要的基础设施层，能显著扩展可支持的工具数量。