摘要
语言模型代理通过结构化工具调用行动,其参数蕴含不同风险。现有统计方法通常控制整体动作风险,导致罕见高风险字段的失败被良性参数掩盖。本文提出角色分层每字段共形风险控制,作为校准层包裹检测器,为语义参数角色设定独立阈值与风险预算。该方法在多个基准测试中展现出优异的角色特定预算合规性,并在模型迁移、攻击适应及分布漂移下保持稳健。结果表明,结构化工具调用应在语义角色层面而非整体动作层面进行认证。
AI 推荐理由
论文核心研究 LLM 工具调用的风险控制机制,直接针对技能执行的安全性与可靠性。
研究机构
Md Ashikur Rahman, Niamul Hassan Samin, Khandaker Rifah Tasnia, Sifat Rahman Ahona, Juena Ahmed Noshin
论文信息