偏见与推理的机制：解读思维链提示对大语言模型中性别偏见的影响

尽管大语言模型存在性别偏见，思维链（CoT）提示常被视为缓解手段。然而，现有评估多关注基准性能变化，缺乏对模型内部机制改变的洞察。本文结合基准评估、机械可解释性技术及推理链失败分析，探究 CoT 如何影响性别偏见。结果表明，CoT 并未一致缩小偏见差距；虽然其在部分注意力头集群中平衡了偏见行为，但性别偏见仍深植于隐藏表示中，仅体现表面缓解。进一步分析显示，这种改善源于数据记忆而非对偏见的真正理解。