Tool Use Safety Conformal Prediction Risk Control LLM Agents
摘要

语言模型代理通过结构化工具调用行动,其参数蕴含不同风险。现有统计方法通常控制整体动作风险,导致罕见高风险字段的失败被良性参数掩盖。本文提出角色分层每字段共形风险控制,作为校准层包裹检测器,为语义参数角色设定独立阈值与风险预算。该方法在多个基准测试中展现出优异的角色特定预算合规性,并在模型迁移、攻击适应及分布漂移下保持稳健。结果表明,结构化工具调用应在语义角色层面而非整体动作层面进行认证。

AI 推荐理由

论文核心研究 LLM 工具调用的风险控制机制,直接针对技能执行的安全性与可靠性。

研究机构
Md Ashikur Rahman, Niamul Hassan Samin, Khandaker Rifah Tasnia, Sifat Rahman Ahona, Juena Ahmed Noshin
论文信息
作者 Md Ashikur Rahman, Md Arifur Rahman, Niamul Hassan Samin, Khandaker Rifah Tasnia, Sifat Rahman Ahona et al.
发布日期 2026-07-27
arXiv ID 2607.24343
相关性评分 9/10 (高度相关)