摘要
现有搜索智能体基准因由人类编写,受限于 annotator 的全局视角缺失,导致难度饱和。为此,本文提出 LoHoSearch,一个包含 544 个人工验证问题的长程搜索基准,覆盖 11 个领域。该基准基于涵盖超 700 万实体的知识图谱自动构建,旨在生成具有大搜索空间和复杂结构的问题。评估显示,最强模型准确率仅 34.74%,且现有上下文管理策略增益有限。LoHoSearch 为评估搜索智能体的长程推理与上下文管理提供了更严苛的标准。
AI 推荐理由
论文核心评估长程搜索中的推理能力与上下文管理,提出高难度基准。
研究机构
Meituan
论文信息