摘要
针对现有视频大语言模型在处理连续流、自主响应决策及长时上下文记忆方面的不足,本文提出 LiveStarPro。该系统包含三大组件:通过单次困惑度验证确定响应时机的流式验证解码(SVeD);强制可变长度流增量对齐的流式因果注意力掩码(SCAM);以及将历史信息组织为事件链以实现高效检索的树状分层记忆(TSHM)。实验表明,该方法在语义正确率和时机误差上显著优于现有方法,并提升了推理速度。
AI 推荐理由
论文核心提出树状分层记忆架构(TSHM),旨在解决长时视频流中的遗忘问题,是主要贡献。
研究机构
中国科学院自动化研究所
论文信息