模型在预填充阶段做笔记：KV Cache 可编辑且可组合

本文指出前缀缓存因字段变更导致失效的问题，揭示模型在预填充阶段已将结论写入下游“笔记”。基于此发现，提出两种能力：(1) 可编辑性，通过修正笔记即可恢复决策，无需重计算；(2) 可组合性，支持将预编译技能重新定位并拼接到任意上下文。该方法适用于各类注意力机制，在在线基准测试中将 p90 首 token 延迟降低 53 至 398 倍，同时保持高缓存命中率。