摘要
现有生产级代理框架将工具模式以 JSON 格式传输,该格式利于机器解析却不利于语言模型理解,导致小模型在大规模工具目录下调用失败率高。本文提出 TSCG,一种确定性工具模式编译器,无需模型访问或微调即可将 JSON 转换为令牌高效的结构化文本。实验表明,TSCG 显著提升了 Phi-4 等小模型的工具调用准确率,并在真实生产场景中实现了显著的令牌节省与性能增益,确立了表示形式变更为主导机制。
AI 推荐理由
论文核心解决小模型工具调用失败问题,通过编译优化模式提升技能执行准确率。
研究机构
Independent Researcher
论文信息