Tool Use Safety Verification Agent Architecture
摘要

针对使用工具的代理常附带不可靠自由文本理由的问题,本文提出解释绑定工具执行(EBTE)框架。该中介层将决策相关的理由转化为类型化的动作声明,并对照服务器持有的意图、策略及风险等事实进行验证。仅当声明与事实匹配时才允许执行,冲突则拒绝。实验表明,EBTE 能有效拦截硬矛盾案例并通过语义安全检查,证明了服务器端验证动作声明的可行性与诊断价值,而非依赖模型理由的忠实度。

AI 推荐理由

论文核心研究 Agent 工具调用的安全验证机制,提出 EBTE 架构以约束和检查工具执行。

研究机构
Georgia Institute of Technology University of Illinois Urbana-Champaign
论文信息
作者 Genliang Zhu, Chu Wang
发布日期 2026-07-28
arXiv ID 2607.25364
相关性评分 9/10 (高度相关)