Cyber Defense Formal Verification Tool Use System Stability
摘要

针对高压对抗环境下缺乏形式化保证的问题,本文提出一种工具中介架构。该架构使 LLM 代理利用确定性工具(如斯塔克尔伯格最佳响应、贝叶斯更新)并从有限动作目录中选择行为。通过 Lean 4 形式化验证了系统的可控性、可观测性及输入到状态稳定性。实验表明,该架构在真实企业攻击图上显著降低攻击者收益,且无论底层模型能力如何,均能保持系统稳定性,实现了非确定性探索与架构稳定性的统一。

AI 推荐理由

论文核心提出工具中介架构,强制 LLM 通过确定性工具选择动作,确保系统稳定。

研究机构
Horizon3.ai
论文信息
作者 Kerri Prinos, Lilianne Brush, Cameron Denton, Zhanqi Wang, Joshua Knox et al.
发布日期 2026-05-04
arXiv ID 2605.03034
相关性评分 9/10 (高度相关)