摘要
空间理解是具身智能的基础。尽管现有视觉语言模型(VLM)在空间推理基准上表现优异,但通常依赖额外的空间编码器或架构修改,增加了计算成本。本文提出Space Tokens,一种轻量级、架构无关的框架,通过蒸馏场景级3D几何和物体中心的空间属性为连续潜在Token,使VLM无需额外推理模块即可获得显式的连续空间表示。这些表示可直接融入思维链推理过程,提升空间推理能力,且支持解码验证及扩展至其他模态。实验表明,该方法在VSI-Bench等基准上显著提升了Qwen3-VL-8B等模型的性能,实现了高效、可解释的几何推理集成。
AI 推荐理由
论文核心在于通过引入连续空间Token增强视觉语言模型的显式空间推理能力,并将其整合进思维链过程。
研究机构
约克大学
华为加拿大研究院
多伦多大学
论文信息