Tool Use Deterministic Replay Cost Reduction Agent Framework
摘要

针对周期性任务中 LLM 的随机性失败与高昂 Token 成本问题,本文提出 LOOP 技能引擎。该系统采用“单次记录、确定性回放”范式:首次运行利用 LLM 推理并拦截记录完整工具调用轨迹,随后通过贪婪算法将其转化为参数化、无分支的确定性循环技能。后续执行完全绕过 LLM,直接解析变量并重放工具序列。实验表明,该方法在保持高成功率的同时,显著降低了 Token 消耗与延迟,消除了输出非确定性,并提供了多层降级策略以确保任务稳定性。

AI 推荐理由

论文核心提出 LOOP Skill Engine,专注于将 LLM 工具调用轨迹转化为确定性技能执行计划。

研究机构
Artificial Intelligence Research Center, Bengbu Medical University, Bengbu 233000, China. CHARMMIRAE L Biotech Co., Ltd, Nanjing 210000, China.
论文信息
作者 Xiaohua Wang, Kai Yu, XuXiao Liang, Liang Wang, Chao Han
发布日期 2026-05-14
arXiv ID 2605.14237
相关性评分 9/10 (高度相关)