摘要
Persona技能将个人交互历史转化为下游Agent可执行的便携工件,虽实现个性化,但也放大了隐私风险并挑战了现有防御机制。为此,本文提出AntiSkillBench,一个端到端基准测试,用于评估Persona-Skill管道中的风险与防御。该基准包含7500条基于人格的对话轨迹数据集、针对三种技能蒸馏策略的风险评估套件,以及涵盖在线和事后干预的四种防御配置实验。结果显示,Persona风险跨Agent骨干和蒸馏协议持续存在,且现有防御效果有限且缺乏泛化能力,凸显了开发隐私保护型人格技能的必要性。
AI 推荐理由
论文核心研究Persona Skills的构建、蒸馏及其安全风险,直接关联技能学习领域。
研究机构
悉尼人工智能中心,悉尼大学
昆士兰大学
东南大学
Mohamed bin Zayed 人工智能大学
论文信息