记忆起始：用于引导大语言模型的潜在空间 KV 缓存操纵

本文提出“记忆起始”（MI），一种无需训练的引导方法，通过在选定层插入文本衍生的键值（KV）库，在潜在注意力空间中操纵大语言模型。不同于传统提示将指导内容缓存于各层，MI 将引导视为选择性 KV 分配，仅在模型路由处注入潜在槽位。实验表明，MI 在人格引导任务中实现了最佳控制与漂移权衡，支持对话中途行为切换而无需重写可见记录，并在结构化推理任务中优于可见提示，同时显著降低 KV 存储开销。