摘要
多模态大模型(MLLMs)正日益集成于自动驾驶系统,但在事故易发场景中仍面临多种安全威胁。现有防护机制多依赖静态逻辑约束,缺乏对动态交通交互的时序安全推理能力。为此,本文提出 GuardAD,一种与模型无关的安全防护框架,将自动驾驶安全建模为演化的马尔可夫逻辑状态。该方法引入神经符号逻辑形式化,通过 n 阶马尔可夫逻辑归纳持续推导异构交通参与者的安全谓词,从而识别潜在隐患。GuardAD 不仅拦截不安全行为,更通过逻辑驱动的行动修正主动优化决策,无需修改底层 MLLM。实验表明,该方法显著降低事故率并提升任务性能。
AI 推荐理由
论文核心提出基于马尔可夫逻辑的安全推理机制,通过神经符号形式化实现动态 hazard 推断与行动修正。
研究机构
1Beihang University
2Zhongguancun Laboratory
论文信息