摘要
近期安全护栏方法常在判定前生成思维链(CoT),认为逐步推理能提升决策质量,但这导致模型笨重缓慢,不适用于端侧部署。本文质疑安全护栏是否真的需要推理,通过训练相同语料下的轻量双向编码器与推理护栏进行控制变量对比,发现移除推理并未降低审核准确率。提出的 LeanGuard 仅用单次前向传播即可达到与大模型相当的 F1 分数,计算量减少约 100 倍,且在标签噪声下更具鲁棒性。研究表明当前基准可能不足以体现推理优势,CoT 对于内容审核的必要性尚未被证实。
AI 推荐理由
论文核心探讨思维链推理在安全护栏中的必要性,通过对比实验证明其非必需。
研究机构
POSTECH
论文信息