摘要
增强工具的语言智能体常推测性地发出未来工具调用以隐藏延迟,但这会在智能体确认分支前向外部服务泄露推断的用户意图。一旦外部观察者接收调用,即使智能体随后放弃该分支,信息泄露也无法撤回。本文称此类调用为“幽灵工具调用”,并提出“推测性工具隐私契约”,将承诺前的观察视为独立于状态突变的一级效应。我们在原型运行时中实现了该契约,并在三个语料库上评估了十二种策略。结果表明,仅发出时策略能有效减少意图推断泄露。
AI 推荐理由
论文聚焦智能体工具调用的隐私问题,虽非技能学习本身,但深度涉及工具使用机制与安全策略。
研究机构
Max Planck Institute for Software Systems
EPFL
Aarhus University
论文信息