基于动态变化规范的推理与规划

为实现与人类的安全交互，AI 智能体不仅需知晓人类规范，还须在规划过程中予以考量。然而，现有的规范引导规划研究多局限于人工智能体群体，且忽视了规范的动态演变特性。本文提出了一种在人机协作场景下，利用动态变化规范引导规划的方法。主要贡献包括：一种用于解决规范冲突的可废止演算，以及将此类动态规范作为规划护栏的应用方法。通过形式化证明进行了理论验证，并在自然语言对话任务中利用 SocialBot 智能体进行了实证评估。