学会攻击与防御：基于 GRPO 的语言模型自适应红队测试

AI 红队测试需持续适应不断演变的攻击者与防御者。强化学习是发现新型攻击的有效途径，而共训练方法可协同生成更鲁棒的防御者。针对现有研究指出 GRPO 在此场景下不稳定的问题，本文提出 AdvGRPO 框架，利用密集多通道奖励和解耦优势归一化，使 GRPO 适用于联合攻防优化。训练采用课程学习策略，从单轮攻击过渡到闭环多轮攻击，进而引导交替更新的共训练过程。实验表明，该方法能生成高效且可迁移的攻击，共训练出的防御者在安全基准上优于基线模型。