摘要
LLM 工作流通过协调结构化调用来扩展模型能力,但现有方法依赖人工构建,限制了实际部署。本文提出一种数据驱动方法,将工作流诱导建模为双层优化问题:外层优化工作流的高层草图(即 LLM 调用结构),内层逐个优化每个 LLM 调用。两者均利用“文本梯度”进行优化,内层通过逐层反向传播文本梯度实现模块化组件优化。实验表明,该方法发现的工作流性能可与基于人工或自动生成工作流的强基线相媲美。
AI 推荐理由
论文核心在于自动诱导和优化 LLM 工作流结构,涉及任务分解与多步计划生成,属于规划能力研究。
研究机构
Naver Search US
Massachusetts Institute of Technology
论文信息