摘要
本文提出 PPT-Eval,一个包含 120 个 PowerPoint 任务的基准测试,涵盖内容创建与编辑场景。针对该领域任务复杂、多模态且解法多样的评估难题,设计了基于量表的鲁棒评估框架,支持部分得分、惩罚冗余操作并提供自然语言反馈。实验表明,现有前沿智能体表现不佳,最强模型成功率仅 45%。该研究为评估现实世界计算机使用智能体的技能提供了新标准。
AI 推荐理由
论文聚焦智能体在 PowerPoint 中的工具使用与操作技能,核心评估其执行复杂多模态任务的能力。
研究机构
Equal contribution, Carnegie Mellon University
UMass Amherst, Work done at Microsoft internship, Work done at Microsoft
Work done at Microsoft
论文信息