工具增强型智能体中的实体绑定失败

工具增强型语言模型智能体常被评估其工具选择、参数生成及任务完成能力，但即便工具选择正确，仍可能操作错误的现实实体（如联系错误的联系人）。本文将此定义为“实体绑定失败”，将其视为独立的安全可靠性问题。研究形式化了工具正确性与实体正确性的分离，构建了企业工作流中的错误实体分类体系，并评估了包括实体解析前置条件、置信度门控绑定、歧义澄清及来源追踪在内的感知机制。实验表明，传统方法虽无工具选择错误，但实体错误率高达 24%-26%，而新机制虽因歧义推迟执行降低了直接完成率，却彻底消除了实体错误动作。