摘要
长尾场景仍是自动驾驶评估的主要瓶颈。现有评估流程难以同时具备人类对齐、安全意识、可验证性及可解释性。本文将规划评估 formulated 为额外威胁检测:判断规划器轨迹相对于专家参考的位移是否引入新的不安全行为。我们提出了 FluidTest 评估流程,包含成对 WebUI 标注协议、32 类语义威胁分类体系及基于反思的三智能体验证系统。实验表明,FluidTest 能产生一致标注,并在大量现有规划器轨迹中识别出显著的安全相关失败,尽管这些规划器在传统指标上表现优异。
AI 推荐理由
论文核心聚焦自动驾驶规划器的安全评估,提出检测规划轨迹偏差的新方法。
研究机构
上海奇智研究所
清华大学
同济大学
论文信息