摘要
自动提示优化虽具潜力,但现有方法多针对固定任务搜索特定提示,限制了跨异构查询的泛化能力及可重用知识的积累。本文提出 MemAPO,一种由记忆驱动的框架,将提示优化重构为可泛化且自进化的经验积累过程。MemAPO 维持双重记忆机制:将成功的推理轨迹提炼为可重用的策略模板,并将错误生成组织为结构化错误模式以捕捉重复失败特征。面对新提示时,框架检索相关策略与失败模式以组合出促进有效推理并规避已知错误的提示。通过迭代自反思与记忆编辑,MemAPO 持续更新记忆,使优化随时间演进而非从头开始。实验表明其在多个基准上优于基线并显著降低优化成本。
AI 推荐理由
论文提出双记忆机制,核心在于记忆的存储、检索与进化以优化提示。
研究机构
浙江大学
伊利诺伊大学厄巴纳-香槟分校
阿里巴巴集团
论文信息