摘要
针对大模型在长噪文档上直接推理脆弱易错的问题，本文提出 LiteCoST 框架。该框架包含两大支柱：一是结构化思维链（CoST），通过模式感知指令引导模型生成逐步推理轨迹及结构化输出，实现证据对齐与验证；二是小语言模型（SLM）微调，利用 CoST 数据进行监督微调与组相对策略优化。实验表明，该方法使 3B/7B 模型在长文档问答中达到媲美大模型的质量，同时显著降低延迟。
AI 推荐理由
提出结构化思维链（CoST）框架，核心在于增强长文档下的逻辑推理与证据整合能力。
研究机构
The Hong Kong University of Science and Technology (Guangzhou)
2EventUp, USA
论文信息