当答案尚未生成时安全已失效：推理链中有害行为检测的基准测试

大型推理模型（LRMs）生成复杂的多步推理轨迹，但现有安全评估仅关注最终输出，忽视了危害在推理过程中如何逐步显现。本文提出 HarmThoughts 基准，用于对推理轨迹进行细粒度的逐句安全评估。该数据集包含来自四个模型家族的 1018 条推理轨迹，共 56,931 个句子，并标注了 16 类有害推理行为。研究分析了危害传播模式及从安全到不安全的关键转折点，并系统比较了白盒与黑盒检测器在识别此类行为上的表现，发现现有方法在细粒度检测上存在显著不足。