摘要
大语言模型 Agent 常因等待工具调用结果而耗费大量时间。工具调用推测可通过预测并预执行下一步调用来隐藏延迟,但现有推测器与部署 Agent 行为对齐较差。本文指出该差距,提出将 Agent 与推测器统一于同一模型的“自推测 Agent
AI 推荐理由
论文核心在于优化 Agent 的工具调用预测机制,通过自推测减少延迟,直接提升技能执行效率。
研究机构
University of California, Santa Barbara
LinkedIn Inc
论文信息