摘要
针对使用工具的代理常附带不可靠自由文本理由的问题,本文提出解释绑定工具执行(EBTE)框架。该中介层将决策相关的理由转化为类型化的动作声明,并对照服务器持有的意图、策略及风险等事实进行验证。仅当声明与事实匹配时才允许执行,冲突则拒绝。实验表明,EBTE 能有效拦截硬矛盾案例并通过语义安全检查,证明了服务器端验证动作声明的可行性与诊断价值,而非依赖模型理由的忠实度。
AI 推荐理由
论文核心研究 Agent 工具调用的安全验证机制,提出 EBTE 架构以约束和检查工具执行。
研究机构
Georgia Institute of Technology
University of Illinois Urbana-Champaign
论文信息