摘要
视觉语言模型常被用作具身智能体的高层规划器。现有研究多关注文本大模型的拒绝机制,缺乏对具身环境中感知落地与物理约束的考量。本文提出具身机器人拒绝行为的分类体系,并推出 RoboAbstention 框架,通过三阶段流程生成基于图像的可验证拒绝指令数据集。实验表明,当前前沿模型在识别模糊或不可行指令方面表现显著不足,尽管防御性提示等方法能提升性能,但仍未完全解决该问题。
AI 推荐理由
论文聚焦具身智能体的高层规划器在不可行指令下的拒绝机制,核心评估规划能力。
研究机构
Purdue University
Bilkent University
论文信息