利用用户日志改进大型语言模型系统

针对大模型训练数据稀缺及计算成本高昂的问题，本文提出 UNO 框架，旨在利用真实部署中的用户交互日志进行持续学习。面对日志非结构化且噪声大的挑战，UNO 通过将日志蒸馏为半结构化规则与偏好对，利用查询反馈驱动的聚类管理数据异构性，并量化模型先验知识与日志数据间的认知差距。该方法引导系统自适应过滤噪声，构建基于主要经验与反思经验的模块，从而显著提升未来响应质量。实验表明，UNO 在效果与效率上均优于检索增强生成（RAG）及基于记忆的基线方法。