Small Language Models Hallucination System 1/System 2 Multi-hop Reasoning
摘要

近期小语言模型(SLM)因高效低耗备受关注,但其高幻觉率阻碍了复杂多步推理任务的解决。现有工作多采用“先思考后检索”策略以抑制幻觉。本文提出相反观点,认为 SLM 初始答案常具准确性,且幻觉有助于锁定真相,因此主张“先回答后推理”策略。我们提出一种受认知科学启发的框架:模型首先快速生成初始假设(系统 1),随后基于该假设检索证据进行深度推理(系统 2)。实验表明,该方法在多个多步问答基准上优于传统的先思考模式。

AI 推荐理由

论文提出基于系统 1/2 的双阶段推理框架,核心解决多跳推理中的幻觉问题。

研究机构
The Pennsylvania State University
论文信息
作者 Saptarshi Sengupta, Suhang Wang
发布日期 2026-05-26
arXiv ID 2605.27596
相关性评分 9/10 (高度相关)