摘要
针对第一人称视频中细粒度手物交互过渡难以捕捉的问题,本文提出将视频转化为时序动作图,以解耦视觉感知与符号推理。通过多阶段提示流程,先生成密集自然语言叙述,再形式化为结构化图表示。实验表明,该符号表示在少样本和零样本设置下均显著提升了推理准确率。研究证实当前视觉语言模型作为符号推理器比直接视觉观察者更有效,提供了一种无需微调的可扩展替代方案。
AI 推荐理由
论文核心在于将视觉感知解耦,利用符号图结构增强 VLM 的动作推理能力。
研究机构
University of Alicante
ETH Zürich
Microsoft
论文信息