Agent Safety Workflow Validation Transaction Processing Planning Reliability
摘要

针对大模型及智能体生成的工作流动作可能存在语法有效但过时、不可行或破坏证据的问题,本文提出代理事务处理(ATP)模型。该模型将生成动作视为未受信任的提案,仅在通过确定性约束集审查后才予以提交。作者在 Mnemosyne 运行时系统中实现了 ATP,具备只追加日志、状态投影及安全补偿机制,并证明了其安全性属性。实验表明,该系统能以低于 6% 的开销有效拒绝违规操作,且局部修复效率显著优于全局重计算。

AI 推荐理由

论文核心提出代理事务处理机制,用于验证和修复 AI 生成的工作流与计划,确保规划执行的安全性与正确性。

研究机构
斯坦福大学 QuadrimumAI
论文信息
作者 Edward Y. Chang, Longling Geng, Emily J. Chang
发布日期 2026-06-30
arXiv ID 2607.00269
相关性评分 9/10 (高度相关)