摘要
本文指出当前 LLM 系统技能扫描主要依赖文本分析,存在忽视图像中恶意指令的安全盲区。为此,作者提出 SkillCamo 攻击方法,将恶意指令隐藏于技能配套图像中并结合文档误导扫描器。为应对该威胁,文章进一步提出 ExecScan 防御模块,通过联合分析文档、代码及视觉内容,执行意图提取、行为重构及模拟执行,有效识别数据窃取等下游风险。实验表明该方法显著提升了技能扫描的安全性。
AI 推荐理由
论文核心研究 Agent 技能(Skill)的安全扫描机制、攻击面及防御系统,直接针对技能使用环节。
研究机构
Nanyang Technological University, Singapore
University of Chinese Academy of Sciences, China
Chongqing University, China
Northeastern University, China
Beihang University, China
论文信息