超越仅推理部署：比较基于权重的巩固与级联压缩

针对大模型仅推理部署导致用户需重复传授偏好及上下文窗口限制问题，本文评估了通过反思、合成及 LoRA 微调将交互知识 nightly 巩固至模型权重的替代方案。实验显示，相比级联压缩仅保留约 36.8% 的知识，权重巩固法在消费级 GPU 上可保留 80.4%，显著提升程序修正与情景事实的记忆效果。研究指出持久个性化需转向将知识固化于权重的架构，并发现中位验证交叉熵比均值更能准确反映模型准确性。