摘要
针对开源 LLM Agent 生态中社区贡献技能缺乏安全审查的问题,本文提出 SkillVetBench。现有工具仅关注代码层,无法识别指令层攻击(如提示注入、记忆投毒)。本研究引入“技能代理风险评分”(SARS),构建五维风险度量体系,并利用 LLM-as-Judge 机制在 Hugging Face 建立实时排行榜。实验表明,该方法在恶意技能检测上实现零漏报,显著优于传统静态分析工具,有效填补了指令层与多代理链路风险的评估空白。
AI 推荐理由
论文核心聚焦于开源 Agent 技能(Skills)的安全评估,提出多维度风险指标与评测系统。
研究机构
SUPREME Lab, University of Texas at El Paso, Texas, USA
论文信息