Embodied AI Safe Planning Continual Learning Symbolic Constraints
摘要

尽管大语言模型推动了具身智能的发展,但其概率不确定性与物理世界所需的严格确定性及可验证安全性之间存在根本差距。为此,本文提出 NEXUS,一种面向具身代理持续学习的模块化框架。不同于以往将符号产物仅视为静态接口的工作,NEXUS 利用其进行符号接地与知识进化。该框架明确解耦物理可行性与安全规范:通过闭环执行反馈提升代理能力,并将概率风险评估转化为确定性硬约束,以建立严格的行为前防御机制。SafeAgentBench 实验表明,NEXUS 在有效拒绝不安全指令、抵御对抗攻击的同时,实现了更高的任务成功率,并通过知识积累逐步提升了规划效率。

AI 推荐理由

论文核心解决具身智能中的规划安全问题,通过符号约束提升规划的鲁棒性与安全性。

研究机构
华中科技大学人工智能与自动化学院,中国 河南大学软件学院,中国
论文信息
作者 Tiehan Cui, Peipei Liu, Yanxu Mao, Congying Liu, Mingzhe Xing et al.
发布日期 2026-05-10
arXiv ID 2605.09387
相关性评分 9/10 (高度相关)