摘要
空间推理仍是许多视觉语言模型（VLM）面临的持久挑战，传统改进方法通常需微调大量额外参数。本文提出 ScAle，一种超轻量级适配方法，通过在完全冻结的主干网络中学习少量标量系数，调节末 token 注意力与 MLP 激活值。在 SpatialEval 基准及真实世界 VQA 数据集上的实验表明，该方法仅用 1K 可训练参数即实现了高达 134.1% 的相对精度提升，无需像 LoRA 等标准方法那样消耗百万级参数，同时保持了强大的非空间问答能力。
AI 推荐理由
论文核心解决视觉语言模型的空间推理难题，提出轻量级适配方法显著提升推理性能。
研究机构
Northeastern University, Boston, USA
EmbodX Inc., USA
Zhejiang University, China
论文信息