摘要
视觉 - 语言 - 动作(VLA)模型为机器人操作提供了连接语言指令、视觉观察与连续控制的框架。然而,现有策略多受限于行为克隆或基于固定演示的监督微调,难以从自身失败中改进。本文提出 Z-1,一种针对基于流的 VLA 模型的强化学习后训练框架。Z-1 基于$π_{0.5}$构建,仅使用公开的 RoboCasa 演示进行初始化,随后在 24 个标准任务上应用任务级组相对策略优化(GRPO)。通过共享前缀展开、树状轨迹分支及完成感知奖励校准等机制提升效率与稳定性。实验表明,Z-1 平均成功率达 80.6%,较初始化提升 13.2%,超越当前最先进模型。
AI 推荐理由
论文核心在于利用强化学习(GRPO)让模型从自身失败中学习并自我改进,显著提升性能。
研究机构
Zioner Robot Team
论文信息