以句子为单位思考：显式句子边界增强语言模型能力

现有研究虽探索通过插入虚拟令牌提升大语言模型能力，但忽视了自然语言固有的句子级结构。本文提出在输入的句子边界处插入分隔符，不仅整合了虚拟令牌，更促使模型在推理过程中形成逐句处理机制。通过在 7B 至 600B 规模模型上进行上下文学习与监督微调实验，结果显示在 GSM8k 和 DROP 等任务上性能分别提升高达 7.7% 和 12.5%。内部表征分析证实了模型获得了句子感知能力，为认知启发的模型增强范式提供了新方向。