大型语言模型中用于引导推理的可靠控制点选择

steering 向量提供了一种无需训练即可控制大语言模型推理行为的机制，但构建有效向量需识别隐藏状态中的真实行为信号。针对自反思等自发涌现且难以通过提示控制的推理行为，现有方法依赖关键词匹配，却错误地假设所有检测到的边界均编码真实信号。本文证明绝大多数此类边界在行为上是不稳定的。为此，我们提出概率模型将内在推理行为形式化为随机事件，并开发稳定性过滤方法，仅保留模型能一致复现目标行为的边界。结合内容子空间投影去噪，该方法在 MATH-500 上显著优于基线，且生成的向量具备跨模型迁移能力。