Tool Use Hallucination Detection Agent Verification
摘要

针对 AI 智能体在工具调用中频繁产生幻觉的问题,本文提出 NabaOS 框架。该框架受印度认识论启发,将声明按认知来源分类,并生成不可伪造的 HMAC 签名工具执行收据进行实时交叉验证。实验表明,NabaOS 能以低于 15 毫秒的开销检测出 94.2% 的伪造工具引用,显著优于耗时漫长的零知识证明方法,为交互式智能体提供了最佳的成本 - 延迟 - 覆盖率权衡。

AI 推荐理由

论文核心解决 Agent 工具调用中的幻觉问题,提出基于收据的验证框架,直接关乎技能使用的可靠性。

论文信息
作者 Abhinaba Basu
发布日期 2026-03-09
arXiv ID 2603.10060
相关性评分 9/10 (高度相关)