摘要
随着具身智能从传统物体检测向机器人操作与动作规划进阶,基于视频输入的视觉空间推理成为感知物体空间关系及指导设备行动的关键。然而,现有视觉语言模型因缺乏三维空间知识,在处理涉及多帧复杂空间关系的任务时表现薄弱。本文提出一种面向端设备具身智能的推理时计算技术——MosaicThinker,旨在提升小型视觉语言模型在高难度跨帧推理任务中的表现。该方法通过将多帧碎片化空间信息整合为全局语义地图的统一空间表征,并利用视觉提示引导模型在该地图上进行推理。实验表明,该技术在资源受限设备上显著提升了多样化及复杂跨帧空间推理任务的准确性。
AI 推荐理由
论文核心在于通过构建空间表征增强具身智能的视觉空间推理能力,直接解决跨帧复杂推理难题。
研究机构
匹兹堡大学电气与计算机工程系
论文信息