摘要
本文 envision 一种主动多模态助手系统,旨在为用户提供实时分步指导,自主决定干预时机与方式。针对缺乏反映用户偏离预期步骤等现实条件的大规模跨领域基准这一问题,作者发布了包含显式“计划外”标注的大规模第一人称数据集 EgoProactive,并构建了统一的 Pro²Bench 基准。此外,提出专为程序状态和恢复注入设计的解耦规划器 - 交互架构,以及跨模型家族的后训练方案。实验表明,该系统在干预质量和计划外恢复方面显著优于现有主流基线模型。
AI 推荐理由
论文提出解耦规划器架构,核心解决程序性任务中的步骤规划、偏离检测及恢复策略。
研究机构
Meta Reality Labs
Meta Superintelligence Labs
论文信息