Agent Security Evolutionary Algorithm Red Teaming Adaptive Attack
摘要

针对现有 Agent 安全评估依赖人工或静态基准的局限,本文提出 NAAMSE,一种将安全评估重构为反馈驱动优化问题的进化框架。该系统通过单一自主 Agent 协调遗传提示变异、分层语料探索及不对称行为评分的生命周期。利用模型响应作为适应度信号,框架迭代增强攻击策略,同时确保“良性使用正确性”。实验表明,进化变异能系统性放大单次方法遗漏的漏洞,揭示了探索与靶向变异协同发现高危失效模式的能力,提供了更真实可扩展的鲁棒性评估。

AI 推荐理由

论文提出进化框架,利用遗传变异和反馈优化评估 Agent 安全,核心机制为自我进化。

研究机构
加州大学戴维斯分校 独立研究员
论文信息
作者 Kunal Pai, Parth Shah, Harshil Patel
发布日期 2026-02-07
arXiv ID 2602.07391
相关性评分 9/10 (高度相关)