Active Perception Video Understanding POMDP Omni-modal Agent
摘要

针对长视频理解中被动模型计算成本随 duration 增长的问题,本文提出 OmniAgent,首个原生全模态智能体。该方法将视频理解构建为基于 POMDP 的迭代“观察 - 思考 - 行动”循环,通过按需行动选择性提取音视频线索至持久文本记忆,解耦推理复杂度与视频时长。文章引入了智能体监督微调与基于 TAURA 的强化学习策略。实验表明,OmniAgent 在十个基准测试中达到开源模型最先进水平,且表现出推理轮次增加性能提升的正向扩展特性。

AI 推荐理由

论文将视频理解建模为基于 POMDP 的推理循环,核心在于通过主动感知提升推理效率。

研究机构
The Chinese University of Hong Kong Shanghai Jiao Tong University Owen Team, Alibaba Group Nanyang Technological University
论文信息
作者 Zhenghao Xing, Ruiyang Xu, Yuxuan Wang, Jinzheng He, Ziyang Ma et al.
发布日期 2026-06-17
arXiv ID 2606.19341
相关性评分 9/10 (高度相关)