Speculative Planning LLM Agents Latency Optimization Task Planning
摘要

针对基于大语言模型的智能体在工具调用与环境交互等待期间产生的空闲时间浪费问题,本文提出了 IdleSpec。这是一种可扩展的通用推理方法,通过在空闲时段迭代生成计划候选,并在观测可用后聚合以指导后续推理步骤。该方法采用学习到的分布采样互补的草稿策略(渐进式与恢复式),有效应对观测不确定性。实验表明,IdleSpec 在 GAIA、FRAMES 及 MLE-Bench 等基准上显著提升了智能体性能,证明了其在长程任务中的泛化能力。

AI 推荐理由

论文提出推测性规划方法,核心在于利用空闲时间生成和优化多步计划候选,直接提升规划能力。

研究机构
KAIST Amazon AGI Together AI
论文信息
作者 Daewon Choi, Kyunghyun Park, Woomin Song, Saket Dingliwal, Sai Muralidhar Jayanthi et al.
发布日期 2026-05-21
arXiv ID 2605.22154
相关性评分 9/10 (高度相关)