推理模型能检测到其思维链的变化吗？

编辑模型的思维链（CoT）可能出于多种目的，例如预填充更强模型的推理或移除可能导致不安全输出的步骤。此类干预的成功往往取决于模型无法察觉这些修改，因为一旦怀疑被篡改，模型行为可能会发生改变。本研究探讨了近期推理模型在各种条件下检测其 CoT 干预的能力：包括在推理过程中及之后，以及当预填充自身或其他模型的 CoT 时。研究发现：(i) 模型的检测准确率仅略高于随机水平；(ii) 模型难以识别 CoT 被修改的具体方式；(iii) 模型检测自身 CoT 变化与其他模型 CoT 变化的能力相当。