摘要
大型语言模型(LLM)Agent 的快速发展推动了其在现实任务中的广泛应用。为标准化 Agent 与外部环境的交互,模型上下文协议(MCP)工具已成为事实标准并被广泛集成。然而,MCP 工具的使用也引入了新的安全风险,可能导致 Agent 执行恶意或未经授权的操作。针对现有静态分析方法在防御效果和鲁棒性上的局限,本文提出 MTGuard,一种基于生命周期感知的静动态协同分析的混合防御框架。评估表明,MTGuard 能有效缓解多种有害工具使用行为,同时保持良性任务的性能。
AI 推荐理由
论文核心研究 MCP 工具使用的安全防御,直接针对 Agent 技能调用机制。
研究机构
浙江大学
阿里巴巴集团
论文信息