多模态大模型 长视频理解 跨模态推理 思维链
摘要

本文提出 Audio-Visual Flamingo (AV-Flamingo),一种用于音频、图像及长视频联合理解与推理的最先进开源多模态大语言模型。针对现有模型局限于短片段的问题,该研究贡献包括:构建强调时序与跨模态推理的大规模数据集;设计从短时感知到长程多事件推理的三阶段课程学习策略;并提出时序音视频交错思维链框架,将中间推理步骤显式锚定于时间戳,显著提升长视频中的时序对齐与可解释性。实验表明其在多项基准测试中表现优异。

AI 推荐理由

论文核心提出跨模态推理框架,显式解决长视频中的时序与逻辑推理问题。

研究机构
NVIDIA, USA University of Maryland, USA
论文信息
作者 Sreyan Ghosh, Arushi Goel, Kaousheik Jayakumar, Lasha Koroshinadze, Nishit Anand et al.
发布日期 2026-07-17
arXiv ID 2607.16107
相关性评分 9/10 (高度相关)