摘要
本文提出最优认知核心(OCC)系列专用小语言模型,其中 OCC-RAG 专为基于上下文的忠实问答优化。该任务要求忽略参数化知识,对提供段落进行多跳推理。作者构建了大规模多上下文多跳问答数据合成流水线,训练出能生成带引用来源的结构化推理轨迹的模型。实验表明,OCC-RAG 在多跳推理、忠实度及拒绝回答基准上,表现媲美或超越其规模大 2-6 倍的通用模型。
AI 推荐理由
论文核心聚焦于多跳推理能力,通过专用小模型和合成数据提升基于上下文的忠实推理。
研究机构
OPTIMAL COGNITIVE CORE
论文信息