摘要
大型语言模型智能体的能力很大程度上源于工具使用。现有研究多关注工具选择及调用顺序,却忽视了正确填充参数的关键性。本文发现LLM隐藏状态包含预测正确性的强信号,据此提出统一的探针引导框架:包括利用探针过滤可靠自生成样本进行微调的PBT方法,以及在推理阶段利用探针优选候选结果的PGR方法。此外,发布基于真实云网络API的ParamBench基准,涵盖五种难度等级。实验表明,该方法显著提升参数生成准确率,精确匹配率从19.7%提升至59.6%。
AI 推荐理由
论文核心聚焦于LLM工具调用中的参数生成问题,属于技能学习范畴,提出了探针引导的训练与推理框架。
研究机构
清华大学
论文信息