摘要
多模态大语言模型虽具备复杂推理能力,但在需借助工具(尤其是可视化工具)外部化问题并基于输出推理时,性能往往下降。为此,本文提出 VAMPS 基准,包含 1168 个源自伊朗大学入学考试的双语多模态选择题,旨在评估模型通过绘图揭示交点、极值等特征来辅助解题的能力。研究发现,即便在绘图是自然策略的问题上,直接解析求解的表现仍优于启用工具的视觉求解方法。
AI 推荐理由
论文聚焦多模态模型在借助可视化工具进行数学推理时的表现评估,核心在于推理能力。
研究机构
University of British Columbia
University of Illinois Chicago
Stony Brook University
论文信息