摘要
宪法 AI 通过自然语言规则监督大模型,但现有方法依赖大量标注且缺乏结构。本文提出多智能体宪法学习(MAC),利用专用智能体网络对结构化规则集进行接受、编辑或拒绝,实现自动优化。MAC+ 进一步通过成功轨迹训练强化高奖励更新。实验表明,MAC 在少样本 PII 分类任务中优于现有提示优化方法 50% 以上,生成可审计规则,性能媲美微调且无需参数更新,并泛化至工具调用等任务。
AI 推荐理由
论文提出多智能体框架自动学习与优化规则,实现 Agent 自我改进与进化。
研究机构
中国机构未明确标注
论文信息