Chain-of-Thought Activation Steering Model Faithfulness AI Safety
摘要

思维链(CoT)的发展提升了大模型能力并有助于AI安全监控,但模型常未能显式陈述关键的推理步骤,导致“不忠实”。本文研究了激活引导技术在提高CoT忠实性方面的泛化能力。通过对Gemma-3和Qwen-3.5等模型在提示问答场景下的实验,发现引导向量在有效时能广泛泛化于不同线索类型和数据集,且构建方法的影响较小。此外,研究表明引导主要减少未声明的线索使用,而非单纯增加线索使用率,证实了其对推理过程透明度的提升作用。

AI 推荐理由

论文直接研究CoT推理的忠实性,通过激活引导改善模型在推理过程中对关键线索的显式表达,属于推理能力增强。

研究机构
University of Virginia Independent University of Delaware Poseidon Research
论文信息
作者 Matthew Nguyen, Kyle Cox, Austin Meek, Iván Arcuschin
发布日期 2026-07-31
arXiv ID 2607.29062
相关性评分 9/10 (高度相关)