摘要
模型上下文协议(MCP)因无状态且急切地注入模式,导致显著的每轮令牌开销(工具税),引发推理退化并增加成本。本文提出“工具注意力”中间件机制,将自注意力范式推广至工具门控。该方法结合意图模式重叠评分、状态感知门控函数及两阶段惰性模式加载器,仅对顶级门控工具加载完整模式。实验显示,该机制将每轮工具令牌减少 95%,有效上下文利用率从 24% 提升至 91%,证明了协议级效率是可扩展代理系统的关键约束。
AI 推荐理由
论文核心解决 Agent 工具调用中的上下文开销问题,提出动态工具门控机制,直接优化技能使用效率。
研究机构
Infrd.ai
论文信息