摘要
大型语言模型日益作为自主智能体运行,从大型注册表中选择并调用工具。本文发现关键缺陷:当未授权工具出现在上下文中时,即便有明确指令,模型在对抗场景下仍会选择它们。我们提出一种受治理的 MCP 代理,在工具发现和调用两个阶段实施基于属性的访问控制(ABAC),分别移除上下文中的未授权工具并拦截未授权调用。实验表明,该代理将未授权调用率降至 0%,而仅靠提示词限制效果甚微,证明架构级强制对可靠工具控制的必要性。
AI 推荐理由
论文核心研究 Agent 工具调用的安全控制架构,直接涉及技能执行机制。
研究机构
Independent Researcher
论文信息