摘要
视觉语言模型在处理需多步链式推理的组合问题时表现不佳。本文提出一种自我提问框架,利用群组相对策略优化(GRPO)强化学习算法,训练模型将复杂问题自主分解为子问题并逐步求解,无需人工标注分解步骤。该机制通过奖励中间子问题生成及最终答案正确性,引导模型发现组合分解策略。在 CLEVR 和 A-OKVQA 数据集上的实验表明,该方法显著提升了模型的推理准确率,证明了教会 AI 系统自问中间问题是解决复杂视觉推理的有效策略。
AI 推荐理由
论文核心研究通过自我提问机制提升多步组合视觉推理能力,属于推理范畴。
研究机构
Massachusetts Institute of Technology
论文信息