摘要
将历史轨迹提炼为可复用经验以增强未来问题解决能力，已成为近期大语言模型研究的焦点。然而，现有方法主要在任务层面运作，假设类似任务共享通用解法模式，往往依赖概括性总结或规则。这种方法在复杂推理中常失效，因为此类推理通常受阻于局部瓶颈，需要精确的状态特定指导而非宽泛启发式策略。本文引入 HippoSpark，这是一种状态级经验系统，能够根据当前推理状态的即时需求进行按需检索。在数学、科学和编程基准测试中，HippoSpark 的表现一致优于标准提示及任务级经验基线。研究结果表明，最有效的经验系统是在关键瓶颈处提供可操作指导的系统，而非仅作为通用任务级上下文。
AI 推荐理由
论文提出状态级经验系统，直接解决复杂推理中的局部瓶颈问题，显著提升推理性能。
研究机构
College of Computer Science, Sichuan University
Department of Computer Science and Technology, Tsinghua University
Engineering Research Center of Machine Learning and Industry Intelligence, Ministry of Education, China
College of Software Engineering, Sichuan University
Institute of Data Science, Northeastern University
College of Computer Science and Technology, Tsinghua University
论文信息