Evolve：小型语言模型的持久化知识生命周期

本文提出 Evolve 架构，将小型本地语言模型与由教师模型编译的持久化知识库配对。该知识库通过“睡眠巩固”和基于使用率的刷新机制进行优化，旨在超越模型参数基线的准确性，同时通过跨查询知识复用分摊教师模型成本。系统构建语义连贯的知识片段而非检索文档碎片，并在离线阶段合并、在线阶段刷新。实验表明，2B 参数模型在多个基准测试中准确率显著提升，且大幅减少了大模型调用次数，实现了高效的知识压缩与检索。