摘要
近期小语言模型(SLM)因高效低耗备受关注,但其高幻觉率阻碍了复杂多步推理任务的解决。现有工作多采用“先思考后检索”策略以抑制幻觉。本文提出相反观点,认为 SLM 初始答案常具准确性,且幻觉有助于锁定真相,因此主张“先回答后推理”策略。我们提出一种受认知科学启发的框架:模型首先快速生成初始假设(系统 1),随后基于该假设检索证据进行深度推理(系统 2)。实验表明,该方法在多个多步问答基准上优于传统的先思考模式。
AI 推荐理由
论文提出基于系统 1/2 的双阶段推理框架,核心解决多跳推理中的幻觉问题。
研究机构
The Pennsylvania State University
论文信息