Agent Safety Memory Grounding Conformal Prediction
摘要

长周期智能体常利用持久记忆和工具执行具有外部副作用的行动。主要失败模式为过早承诺:即在未确认记忆基础是否过时、冲突、不完整或损坏前便采取行动。本文将此形式化为记忆不确定性下的安全承诺问题,并提出SafeCommit,这是一个位于智能体推理与外部执行之间的风险控制层。该层从记忆、观察、工具输出等构建潜在世界的校准集合,仅当共形行动证书证明在所有保留世界中行动均安全时才允许执行。否则,选择低副作用探针或保守回退。该方法提供了决定智能体不仅“做什么”,而且“何时证据充分到可以安全做”的具体方案。

AI 推荐理由

论文核心解决基于记忆的不确定性下的安全行动问题,直接针对记忆机制的可靠性与验证。

研究机构
Florida International University
论文信息
作者 Mayur Akewar, Ravi Ranjan
发布日期 2026-08-04
arXiv ID 2608.04289
相关性评分 9/10 (高度相关)