LLM Agent Process Evaluation Coding Agents Benchmark
摘要

现有 LLM 编码智能体基准主要评估最终结果,缺乏对多步执行过程的洞察。本文提出 ProcBench,一个面向过程的评估框架,通过分类过程缺陷和衡量控制保持能力来评估智能体轨迹。该框架构建了可重用的缺陷本体,统一异构日志表示,并提供基于风险的校准评分卡。在三个基准上的实验表明,ProcBench 能有效诊断传统结果导向评估所忽略的过程级故障,提升了评估的可解释性与诊断价值。

AI 推荐理由

论文聚焦多步执行过程中的缺陷与控制保持,直接关联任务规划与流程管理。

研究机构
Amap, Alibaba Group
论文信息
作者 Jiawei He, Jie Jia, Chenbo Liu, Chaoyi Xue, Yapeng Song et al.
发布日期 2026-05-18
arXiv ID 2605.20251
相关性评分 8/10 (高度相关)