摘要
针对长视频理解中被动模型计算成本随 duration 增长的问题,本文提出 OmniAgent,首个原生全模态智能体。该方法将视频理解构建为基于 POMDP 的迭代“观察 - 思考 - 行动”循环,通过按需行动选择性提取音视频线索至持久文本记忆,解耦推理复杂度与视频时长。文章引入了智能体监督微调与基于 TAURA 的强化学习策略。实验表明,OmniAgent 在十个基准测试中达到开源模型最先进水平,且表现出推理轮次增加性能提升的正向扩展特性。
AI 推荐理由
论文将视频理解建模为基于 POMDP 的推理循环,核心在于通过主动感知提升推理效率。
研究机构
The Chinese University of Hong Kong
Shanghai Jiao Tong University
Owen Team, Alibaba Group
Nanyang Technological University
论文信息