Computer Use Agents Supervised Fine-Tuning Synthetic Data GUI Automation
摘要

训练计算机使用代理(CUA)需要大规模多样化的桌面环境轨迹数据。现有最大公共数据集 AgentNet 在监督微调中导致负迁移。本文提出 ProCUA-SFT,包含从 9.3 万条合成轨迹中提取的 310 万个步骤级样本。该数据集通过全自动化流水线生成,利用单一 VLM 同时担任目标生成、前提判断及轨迹执行角色,消除了规划者与执行者的能力差距。实验表明,基于该数据集微调显著提升了模型在 OSWorld 基准上的成功率。

AI 推荐理由

论文核心研究计算机使用代理的技能学习,通过大规模 SFT 数据提升工具操作能力。

研究机构
NVIDIA University of California, Berkeley
论文信息
作者 Jaehun Jung, Ximing Lu, Brandon Cui, Muhammad Khalifa, Shaokun Zhang et al.
发布日期 2026-06-15
arXiv ID 2606.17321
相关性评分 9/10 (高度相关)