摘要
函数调用是现代大语言模型代理的核心能力，但通常受限于同步执行语义，导致解码阻塞和延迟增加。本文提出 AsyncFC，一种纯执行层框架，将模型解码与函数执行解耦，实现两者重叠及函数间并行。该方法无需微调或修改现有协议，显著降低任务完成时间并保持准确率。研究表明，LLM 具备对代表未决结果的符号“未来”进行推理的原生能力，从而支持异步的模型 - 工具交互范式。
AI 推荐理由
论文核心研究异步函数调用机制，直接优化 Agent 工具使用效率与并发能力。
研究机构
University of California, Berkeley
论文信息