Reinforcement Learning VLA Models Self-Improvement Robotics GRPO
摘要

视觉 - 语言 - 动作(VLA)模型为机器人操作提供了连接语言指令、视觉观察与连续控制的框架。然而,现有策略多受限于行为克隆或基于固定演示的监督微调,难以从自身失败中改进。本文提出 Z-1,一种针对基于流的 VLA 模型的强化学习后训练框架。Z-1 基于$π_{0.5}$构建,仅使用公开的 RoboCasa 演示进行初始化,随后在 24 个标准任务上应用任务级组相对策略优化(GRPO)。通过共享前缀展开、树状轨迹分支及完成感知奖励校准等机制提升效率与稳定性。实验表明,Z-1 平均成功率达 80.6%,较初始化提升 13.2%,超越当前最先进模型。

AI 推荐理由

论文核心在于利用强化学习(GRPO)让模型从自身失败中学习并自我改进,显著提升性能。

研究机构
Zioner Robot Team
论文信息
作者 Lang Cao, Renhong Chen, Luyi Li, Peng Wang, Mofan Peng et al.
发布日期 2026-06-30
arXiv ID 2606.31846
相关性评分 9/10 (高度相关)