摘要
针对大模型及智能体生成的工作流动作可能存在语法有效但过时、不可行或破坏证据的问题,本文提出代理事务处理(ATP)模型。该模型将生成动作视为未受信任的提案,仅在通过确定性约束集审查后才予以提交。作者在 Mnemosyne 运行时系统中实现了 ATP,具备只追加日志、状态投影及安全补偿机制,并证明了其安全性属性。实验表明,该系统能以低于 6% 的开销有效拒绝违规操作,且局部修复效率显著优于全局重计算。
AI 推荐理由
论文核心提出代理事务处理机制,用于验证和修复 AI 生成的工作流与计划,确保规划执行的安全性与正确性。
研究机构
斯坦福大学
QuadrimumAI
论文信息