用于网络安全的智能体AI：一种可治理自主性的元认知架构

当前由人工智能驱动的网络安全系统主要被设计为以模型为中心的检测和自动化流程，优化任务级性能指标如准确率和响应延迟。尽管这些架构在有限分类任务中有效，但在对抗性不确定性下难以支持可问责的决策，其中行动必须得到证明、监管并符合组织和法规约束。本文认为，网络安全编排应重新构想为一个智能体多智能体认知系统，而非单纯的检测与响应组件序列。我们引入了一个概念性架构框架，其中负责检测、假设形成、上下文解释、解释和治理的异构AI代理通过显式的元认知判断函数进行协调。该函数管理决策准备度，并在证据不完整、冲突或操作风险较高时动态校准系统自主性。通过综合分布式认知理论、多智能体系统研究和负责任的人工智能治理框架，我们证明现代安全运营实际上已作为分布式认知系统运行，但缺乏明确的组织原则。我们的贡献是将这种认知结构在架构上显式化并使其可治理，通过将元认知判断嵌入为首要系统功能。