摘要
针对现有 Agent 安全评估依赖人工或静态基准的局限,本文提出 NAAMSE,一种将安全评估重构为反馈驱动优化问题的进化框架。该系统通过单一自主 Agent 协调遗传提示变异、分层语料探索及不对称行为评分的生命周期。利用模型响应作为适应度信号,框架迭代增强攻击策略,同时确保“良性使用正确性”。实验表明,进化变异能系统性放大单次方法遗漏的漏洞,揭示了探索与靶向变异协同发现高危失效模式的能力,提供了更真实可扩展的鲁棒性评估。
AI 推荐理由
论文提出进化框架,利用遗传变异和反馈优化评估 Agent 安全,核心机制为自我进化。
研究机构
加州大学戴维斯分校
独立研究员
论文信息