摘要
尽管推理通常能提升大语言模型的公平性，但失效依然存在。本文识别出一种名为“演绎刻板印象”的失效模式，即模型将群体层面的统计规律应用于个体案例，产生逻辑连贯但存在社会偏见的推论。为此，作者提出了一种推理时注入框架以引导公平感知推理，并引入 Fair-GCG 方法系统性地发现有效的注入短语。实验表明，该方法在多个公平性基准上提升了性能，具有跨模型规模的泛化能力，减少了开放生成中的偏见，并能迁移至现实世界的公平敏感任务中。
AI 推荐理由
论文核心研究推理过程中的偏见失效模式及公平感知推理机制，属推理能力核心范畴。
研究机构
University of Michigan
论文信息