摘要
针对大语言模型在开放域隐式问答中存在的知识缺失及单次生成局限性,本文提出一种渐进式知识挖掘框架。该方法使模型能迭代主动地获取外部信息,并基于历史知识进行推理。在求解过程中,模型每步选择执行查询外部知识或单步逻辑推理等动作,逐步推导最终答案。该方法能有效利用即插即用外部知识并动态调整策略。在 StrategyQA 数据集上,该方法以少于竞争对手 6% 的参数实现了 78.17% 的准确率,刷新了约 100 亿参数规模模型的最新性能记录。
AI 推荐理由
论文核心在于通过迭代获取外部知识进行多步逻辑推理,解决隐式复杂问答问题。
研究机构
香港大学
华为诺亚方舟实验室
论文信息