摘要
针对大语言模型作为 Agent 时可靠行为的需求,本文提出“多头隐层控制”方法。该方法通过轻量级层读取冻结模型的隐藏状态轨迹,直接推断部署时的控制信号,包括是否移交更强模型、请求信息、调用工具或放弃回答。无需修改主干模型即可实现事后适应。实验表明,该方法在多模型系统中显著优化质量与成本权衡,大幅减少大模型使用量,同时显著提升工具使用的决策质量,减少了遗漏的必要工具调用。
AI 推荐理由
论文核心提出利用隐层状态预测工具调用、澄清等决策,直接优化 Agent 的技能选择与执行机制。
研究机构
ECE Department, University of Alberta
论文信息