摘要
针对自主 Agent 进行软件安全审计时推理过程不透明及假设未验证的问题,本文提出“安全规范优先”范式。该范式将 Agent 的隐性假设显式为安全规范,并通过运行时证伪持续优化。实现的 Code-Augur 系统在判定代码安全时生成断言,并利用模糊测试尝试证伪这些假设,从而校准 Agent 对代码意图的理解。实验表明,该方法在通用大模型上比现有最先进 Agent 检测到更多漏洞,并在关键开源项目中发现了 22 个新漏洞。
AI 推荐理由
论文核心解决 Agent 推理不透明及假设错误问题,通过显式规范提升推理可靠性。
研究机构
新加坡国立大学
论文信息