Human-AI Interaction Constraint-Based Planning Formal Verification LLM Agents
摘要

大语言模型虽广泛用于终端用户任务规划,但其黑盒特性限制了用户的控制力与可靠性保障。现有系统缺乏有效机制让用户应用刚性约束以表达意图或适应现实变异性。本文提出 U-Define 系统,允许用户用自然语言定义约束并将其分类为不可违背的“硬规则”或具灵活性的“软偏好”。系统采用形式化模型检测验证硬约束,利用大语言模型作为裁判评估软约束。技术评估与用户研究表明,该机制显著提升了规划的感知有用性、性能及用户满意度,为设计灵活可靠的约束驱动型规划工作流提供了重要见解。

AI 推荐理由

论文核心研究基于约束的 LLM 任务规划工作流设计,直接解决规划可靠性与控制问题。

研究机构
University of Wisconsin-Madison, USA George Mason University, USA
论文信息
作者 Christine P Lee, Xinyu Jessica Wang, Aws Albarghouthi, David Porfirio, Bilge Mutlu
发布日期 2026-05-04
arXiv ID 2605.02765
相关性评分 9/10 (高度相关)