SafeMCP：通过基于环境的前瞻推理实现 LLM Agent 防御的主动功率调节

随着大语言模型（LLM）代理利用模型上下文协议（MCP）在复杂环境中运行，其行动空间的扩展带来了寻求权力的安全风险。针对微小错误可能被放大为灾难性失败的问题，本文提出 SafeMCP，一种服务器端防御插件。该方法利用内部世界模型进行前瞻推理，实施双层防御：主动过滤危险工具以限制权力扩张，并作为故障安全机制进行即时干预。通过包含环境动态接地、安全策略初始化及双重可验证奖励强化学习的三阶段流程进行训练，实验表明 SafeMCP 能在有效缓解风险的同时保持代理效用，实现安全平衡。